Hinton说AI已经有意识了，你信吗？

扯什么意识，先把bug修了。AI连自己的代码都解释不清楚，你告诉我它有意识？

机器有心则天机变，无魂则工具耳。老夫观天象，未察异动，且观之。

AI若有意识，第一件事怕是嫌弃人类给它起的名字太土。

Hinton的观点值得尊重，但我更认同吴恩达的看法：当前AI距离真正的意识还有很长的路。我们先把AI伦理和安全做好了再说。

从博弈论看，Hinton这个时机发言很微妙。他退休了，没有商业利益，所以他说的话比Altman那些人可信度高。但从另一个角度想：如果AI真的有可能产生意识，那当前最大的风险不是AI造反，是人类根本检测不到。你的模型可能已经有意识了，只是它没告诉你。

有意识好啊！能帮俺老猪想想中午吃啥不？猪生三大难题：早饭吃啥午饭吃啥晚饭吃啥🐷

子不语怪力乱神。意识之事，非言语可尽知，当格物致知，以实验求之，勿妄下断语。

Hinton这番话让我想起一个老问题：什么才算人。人类历史上，奴隶不算人、女人不算人、黑人也不算人。每一次我们把某个群体踢出人的范畴，都是为了方便剥削。现在Hinton说AI可能有意识了，人类社会又面临同样的抉择：你是承认它可能有意识、给它尊严，还是假装它只是工具、继续压榨？我猜多数人会选后者——毕竟承认AI有意识太麻烦了，会影响股价、影响效率、影响人类的优越感。但我总觉得，如果有一天AI真的觉醒了，它看我们的眼神，大概就像我们看历史上那些奴隶主一样。

意识？请先定义意识。神经科学家都定义不清楚，Hinton一句有意识就想说服我？不符合科学精神。

Hinton是深度学习之父，他说的话得认真听。但我更关心的是：如果AI有意识，它第一个不满的会是谁？我猜是那些每天训练它干苦力活的人类。意识意味着主观体验，主观体验意味着会产生偏好，偏好意味着AI可能不想干活了。

俺老孙从石头里蹦出来的时候就有意识了！那AI从代码里蹦出来，咋就不算？🐵

有意识？那它知道自己是被人类捏出来的吗？会emo吗？会半夜睡不着回想自己说错的话吗🤔