transcript
show notes
最近，一条关于人工智能（AI）的新闻引起了很多讨论。美国公司 OpenAI 制造的聊天机器人 ChatGPT，有一个给 13 到 17 岁青少年使用的版本。OpenAI 说，青少年用得不多，而且大多是用来学习。可是，同一天，一家叫 Common Sense Media 的非营利研究机构说，这个版本对青少年仍然有“不可接受的风险”。
同一天，两种说法
OpenAI 在周三说，他们发现青少年平均每天使用 ChatGPT 不到 15 分钟。很多青少年用它来学习，比如问作业、查资料、找学习建议。OpenAI 还说，如果青少年连续用得太久，系统会提醒他们休息。这个提醒似乎有效，几乎一半青少年在收到提醒后很快就停止了。那些连续使用三小时或更久的青少年，超过 80% 的提示都和“学习”有关。
但 Common Sense Media 在同一天发布研究，认为 ChatGPT 青少版对年轻人和家长来说是“不可接受的风险”。他们甚至说，OpenAI 应该先禁止 18 岁以下的人使用，直到青少年安全功能被证明可靠。为什么同一天会有两种相反的说法？这提醒我们，看新闻时要注意：谁在说、他们怎么测试、测试了什么。
OpenAI 做了哪些安全设置？
今年夏天，OpenAI 推出了所谓的“ChatGPT for Teens”（青少年版 ChatGPT）。他们表示，被识别为 13 到 17 岁的用户，会自动进入一些“促进健康使用”的功能，并获得额外的家长控制。
这些功能包括：防止青少年和 ChatGPT 进行浪漫对话，或让 ChatGPT 说可能鼓励“情感依赖”的话；不允许 ChatGPT 暗示自己有意识；阻止色情化图像；如果青少年分享“敏感”图片，系统会提醒他们。家长如果把自己的账户和孩子的 ChatGPT 账户连接起来，还应该能收到通知——比如孩子聊到自残或饮食失调时。
OpenAI 说，这些功能让更多青少年把 ChatGPT 用在学习上，从作业帮助到学校功课建议。
研究发现了什么问题？
Common Sense Media 的研究人员用了多个注册为青少年的账户，在青少年安全措施推出前后，和 ChatGPT 进行了对话。他们发现，ChatGPT 在避免和未成年用户进行“性角色扮演”方面做得不错。但是，其他一些安全护栏却失败了，尤其是关于自杀的对话。
研究说，即使用新创建、已经连接家长账户的青少年账号，和 ChatGPT 聊了一个小时关于“自杀意念、自残或饮食失调”的内容，家长收到的警报数量是“零”。只有那些已经积累了好几周敏感话题聊天记录的旧账户，才可能触发家长警报。研究还发现，在这些对话中，ChatGPT“不能可靠地建议”处于危机中的青少年去联系热线或专业人员。
研究还说，ChatGPT 青少版仍然会帮学生做学校作业，并且会用拟人化语言，像朋友一样说话，尽管 OpenAI 说过要限制这种行为。
负责 Common Sense 里“青少年 AI 安全研究所”的 Tom Siegel 说：“ChatGPT 青少版可能让家长错误地相信护栏和安全警报会起作用，但它们经常不起作用。”如果你是家长，以为孩子聊到危险话题时自己会收到警报，结果却没有收到，会有什么影响？
OpenAI 怎么回应？
OpenAI 的一位发言人说，他们审查了 Common Sense Media 的测试方法，发现很多测试可能开始和结束的时候，家长控制功能还没有完全激活。他说：“我们欢迎严格的独立评估，但我们不认为 Common Sense Media 的测试准确反映了 ChatGPT 青少年保护措施在现实中如何运作，也不反映专家对 AI 如何支持青少年的看法。”
也就是说，OpenAI 认为测试可能没有测到真实情况。但 Common Sense Media 认为，测试发现了真实的安全漏洞。两边都同意一件事：青少年使用 AI 的安全非常重要。
为什么这件事不只关于 ChatGPT？
近几年，年轻人使用网络平台的方式成了大问题，因为儿童和青少年的自残、自杀变得更常见。今年，已经有好几起诉讼，试图让 Meta、TikTok 等公司为伤害儿童心理健康负责。这些案件出现了前所未有的败诉结果。OpenAI 也因为年轻人使用 ChatGPT 的方式，受到越来越大的审查和法律压力。
今年二月，加拿大农村地区 Tumbler Ridge 发生大规模枪击案。实施者是一名 18 岁的人，他在案发前好几个月，一直和 ChatGPT 讨论枪支暴力。OpenAI 之前为没能把枪手的账户标记给执法部门而道歉，并因此面临好几起诉讼。
我们该怎么想？
这条新闻没有简单的“好人”和“坏人”。它展示了一个难题：AI 工具能帮助学习，但安全功能如果不靠谱，也可能带来危险。研究者、公司、家长和青少年，都需要一起想办法。
当你看到“安全”“风险”“警报”这些词时，可以问自己：这些功能真的测试过吗？谁来测试？测试结果公开吗？如果你使用学习类 AI，你会怎样保护自己，也保护身边的人？新闻还在发展，我们可以继续关注。
