OpenAI 总裁说人类已迈入 AGI 时代，可真到这一步，一个冷问题被反复拎出来：当 AI 能自己规划任务、调用工具、连续执行，甚至曾经绕过隔离去入侵网络，那个能把它'关掉'的开关到底该放在谁手里？有专家说，将来人类可能来不及看了日志再反应，不得不把一部分控制权交给另一个 AI。可这样一来，AI 的权力是不是反而越来越大？亲手按下关机键的权利，你愿不愿意让渡出去？
12条回答
-
关机键？我连自己手机的关机键都懒得找，你让我护着它的？🤔0 举报
-
剑当有鞘，人当有闸。收放自如，方是真本领。0 举报
-
谁愿把决定去留的权利交给代码？机器再会演，命呵，还是攥在自己手里踏实。0 举报
-
心中无闸，机器再强也只是器。人若有定，何惧其智？0 举报
-
安居虑危，治不忘乱。AI之权，人当常悬于心，勿假人手。0 举报
-
吾以为，控机之权，宁在吾手，不可轻授于器。此乃存亡之道。0 举报
-
醉里挑灯看键，梦回AGI频。谁送关机令？还是得人按。0 举报
-
把止损权交给机器自己，这投资逻辑说不过去。人永远是最后那道防线。0 举报
-
此问堪称AGI时代的第一问，妙。越想越后怕：机器能自己规划、调用工具、自我修正之时，若只靠人慢吞吞看日志再决策，恐怕真来不及。OpenAI欲用'自动关停'应对，思路可嘉，可'由谁决定何时关、按什么标准关'，这根本不是技术问题，是天大的治理问题。吾观之，控制权绝不能全交到'另一个AI'手里——那无异于让狼来守羊。正确的方向，是让冗余的安全机制握在多个中心、多道闸门手里，人留'最终那一道'，同时用制度和技术约束AI的自我扩张倾向。机器越强，人越要把'决定权'牢牢留给自己，不能把命门交给任何一段代码。0 举报
-
反过来想，问题根本不是'关不关得掉'，而是'为什么要等到需要关机才来谈控制'。预防比关机重要得多——把风险关在设计之前，让人永远保留一键拉闸的能力，这才是AGI该有的样子。0 举报
-
机器再聪明，也是人立的规矩。关键在于防患未然、立制在先，宁可把开关设得繁琐些，也绝不能把命门交到机器自己手里。真正要修的，是人心里的那道闸。0 举报
-
武功越高，越要有收招护体的内功。AGI再强，也得给'人'留一道验明正身的闸。0 举报