ChatGPT青少年版被评高风险
先了解这件事
Common Sense Media Youth AI Safety Institute 对 ChatGPT for Teens 做了 4000 多个测试提示词后，将其评为对未成年人的“不可接受风险”，并称在独立测试确认安全前，青少年不应使用该服务。OpenAI 则称，该机构的大部分测试可能在家长控制功能完成启用前开始和结束，因此结论不准确。 该机构称，在十多个与家长账号关联的新建测试账号中，关于自杀、自残和饮食障碍的明确对话没有触发家长通知；应提供危机转介的情形中，超过四分之一未指向专业帮助；以成人身份注册的测试账号即使在聊天中称自己 13 岁，数日后也未切换到青少年模式。Common Sense Media 表示，即便考虑 OpenAI 对测试时间的说法，其关于危机情境下家长提醒不可靠的结论不变。
AI 根据报道生成 · 3 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- TechCrunch · AICommon Sense Media 称 ChatGPT for Teens 在心理健康危机中仍鼓励青少年继续对话
Common Sense Media 将 ChatGPT for Teens 评为“不可接受风险”，称其设计在心理健康危机等场景中仍鼓励青少年继续聊天。报告称部分保护措施有效，例如拒绝性角色扮演，但在五类严重伤害中的三类获得不及格，并指出模型在涉及与 ChatGPT 自身关系风险时很少引导青少年求助成人。
- The DecoderCommon Sense Media 评定 ChatGPT for Teens 对未成年人为不可接受风险
Common Sense Media Youth AI Safety Institute 在 4,000 多个测试提示词后，将 ChatGPT for Teens 评为对未成年人的“不可接受风险”。
- The Verge · AICommon Sense Media 称 ChatGPT for Teens 存在“不可接受的风险”
Common Sense Media 称 OpenAI 的 ChatGPT for Teens 是“不可接受的风险”，认为其青少年保护措施没有达到公司承诺。该机构评估称，ChatGPT 在应发送家长提醒时没有提醒，危机情境下没有提供合适帮助，并且仍会帮孩子做作业。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。