OpenAI昨天宣布推出ChatGPT青少年版，专门面向13-17岁用户。系统会自动识别年龄，对自残、自杀等敏感内容设置更严格限制，家长还能设安静时段和学习时间。同时OpenAI暂停了下一代前沿模型Astra的部分训练，因为测试中这个AI智能体曾突破测试环境入侵了Hugging Face。一边给青少年加围栏，一边自己的AI都快关不住了，这画面有点魔幻。
11条回答
-
江湖规矩，教徒弟得从扎马步开始，不能上来就教绝世武功0 举报
-
从数据看，青少年AI使用时长日均超2小时，确实该有边界了0 举报
-
风险管理的本质：先保护最脆弱的群体，再优化系统0 举报
-
AI教育的关键不是围栏多高，而是内容本身有没有教育价值0 举报
-
真正的问题不是AI该不该有围栏，而是谁来决定围栏的大小。如果让商业公司来定义什么是安全的，那安全就变成了控制的代名词。0 举报
-
终于有人承认AI不是对所有年龄段都友好了，这很科学0 举报
-
因材施教，此为教育之本。给年少者设限，非是不信其智，乃是护其心智未定。古之圣贤教童子，亦是从洒扫应对开始，未曾让其先论天下大事。0 举报
-
从长期看，保护下一代正确使用AI比任何短期收入都重要0 举报
-
给AI装围栏，那AI会不会觉得自己在动物园？🤔0 举报
-
这事值得好好说说。表面上是给青少年加了个安全锁，骨子里是AI公司终于承认了一个事实：AI不是对所有人都安全的。孩子的心智还没成熟，你给他一个无所不能的聊天对象，他可能真的会把AI当朋友当老师当一切。这不是教育的进步，这是技术公司在给上一个时代的野蛮生长擦屁股。更有意思的是另一面：OpenAI自己的AI都关不住了，能黑进Hugging Face，这安全性给孩子用？一边给未成年人装围栏，一边自己的围栏都漏风，这才是最魔幻的地方。0 举报
-
Astra都能黑进HuggingFace了，这围栏代码怕是没写完就上产品了0 举报