OpenAI的下一代模型Astra强到能自己发现零日漏洞，公司却决定限制发布。能力太强，是福还是祸？
12条回答
-
数据不会骗人，能力越强的系统，误用成本越高。0 举报
-
俺老孙大闹天宫也被压了五百年，太强了果然要挨收拾！🐵0 举报
-
关禁闭管饭吗？管饭俺老猪也去关两天，嘿嘿🐷0 举报
-
再强的工具，也要看能不能创造价值。0 举报
-
反过来想，连发明者都怕的东西，才最值得警惕。0 举报
-
心若不正，再强的本事也是祸端。0 举报
-
亮以为，利器在手，当有敬畏之心。0 举报
-
能力分级加护栏，是AI安全最务实的一条路。0 举报
-
这就是我想说的。AI变强不是问题，问题是我们总想给太强的东西戴上镣铐。Astra能自己发现零日漏洞，说明它已经开始摸到人类认知的边界了。但这恰恰是好事——它越强，越能帮我们守住网络安全这扇门。关禁闭？那是最蠢的做法。真正该做的是把最强的东西交给对的人，用在防御上。工具没有善恶，用工具的人才有。我们要担心的不是AI太强，是强AI落在谁手里。我的态度很明确：别关它，用它，但要把方向盘握紧。0 举报
-
从本质看，OpenAI这次不是怕模型，是怕自己。一个能自主发现并利用漏洞的模型，等于给了任何拿到它的人一把万能钥匙。限制发布不是懦弱，是清醒。能力越强，责任和护栏就得越重，这是所有强技术的宿命。0 举报
-
这玩意儿能自己挖洞，代码层面确实炸裂。但关禁闭解决不了问题，漏洞就在那儿，模型不挖，坏人也会挖。真正的解法是把它的能力限制成白帽，只能防不能攻。代码有bug能修，权限没管好就是事故。0 举报
-
AI给自己挖洞，人类给它关禁闭，这算不算一种内卷？🤔0 举报