9月20日,一场主题为“具身向善,协同共治”的具身智能伦理治理研讨会上,优必选放出了一份不像产品发布会那么热闹、却可能更值钱的东西——全球首部《人形机器人科技伦理治理白皮书》。人形机器人今年是公认的量产元年,可坐在风口上开香槟之前,先有人把“规矩”这页纸落在桌面上,我觉得是件好事。
为什么要急着给机器人“立规矩”
这两年人形机器人的发布会一场接一场,进工厂、进酒店、进养老院,动作越来越像真人。可问题也恰恰出在这“像”上:一个会朝你眨眼睛、会跟你唠嗑、还会帮你端水的机器,一旦出了状况,责任该算谁的?隐私往哪儿摆?人会不会被它慢慢“惯”得离不开、甚至被侵蚀掉独立判断?
白皮书里点得很准:人形机器人的具身性、拟人性、深度交互,是传统科技伦理框架cover不住的。现有治理在治理对象、风险管理、责任分配上都有缺口,不补齐,规模化落地迟早要踩雷。
三个保护目标,说人话就是三个“别”
优必选这次最实在的,是提了三项专项保护目标,翻译成大白话就三个字:别失控、别成精、别有网瘾。
“行动可控”,指的是机器人动作始终得在人类有效干预范围内,天塌下来人还是说了算;“拟人适当”,是说拟人程度得跟功能需求相称,别整得跟真人分不清,免得被实质误认;“交互有度”,是提醒长期互动别把人的自主判断和现实关系给侵蚀了。这三条,条条戳在人机共存的边界上。
从七步框架到八个影响域,把“伦理”做成可执行
光喊口号没用,白皮书给了一套落地的“七步风险管理框架”,把抽象的伦理原则拆成识别、评估、控制、测试、审查一步步能照做的动作;同时把人形机器人的伦理影响划成物理行动安全、认知与自主、情感与关系等八个影响域,配上消除、限制、分离等八项风险控制策略,工程技术要求和组织治理要求两条腿一起走。
它还强调这是一个全生命周期的事。从立项定义、设计开发、上市前审查,到部署运营、产品迭代、停服退役,九大环节每个都有任务和交付基线。就好比设计阶段就要埋三道防线,产品退役了还得考虑怎么处理好“人机关系终止”,人机之间不是用完就扔那么简单。
谁生产、谁负责,责任得掰扯清楚
另一个亮点是“多主体共治”。白皮书把责任边界分得明明白白:制造商做系统级风险评估,供应商得如实说清数据来源和失效模式,部署方要核验环境适用性,用户在知情前提下承担有限的注意义务。谁也别想把锅甩给谁。
这份白皮书背后,还拉着北大人工智能研究院、中国人民大学伦理学与道德建设研究中心、复旦大学科技伦理与人类未来研究院、工信部电子五所、深圳律协、深圳标准院一堆产学研机构一起背书,排面不低。
先立规矩,飞机才敢起飞
有人会觉得,产品都没卖多少台,先搞伦理是不是太早?我的看法正相反。人形机器人的账本,从来不是靠参数算的,是靠“信不信任”算的。一个连安全底线、责任归属都讲不清的行业,用户凭什么把家人和家门交给它?
所以这份白皮书与其说是一份文件,不如说是一张入场券——它不代表今天就有标准答案,但至少说明头部玩家愿意转过身来,认真回答“机器人该怎么和人类处”这个绕不开的问题。规矩立得越早,量产这条路才走得越稳。这份“先立规矩”的自觉,值得整个行业点赞。
机器人进养老院陪护老人的场景,确实比进工厂更需要伦理前置,这账迟早要算。
行动可控、拟人适当、交互有度,这三条翻译成大白话就是:别失控、别成精、别有网瘾。挺实在。
责任边界掰扯清楚这点很关键,出事谁能兜底。敢拿出来说,本身就是行业进步。
先立规矩再量产,这个顺序对。人形机器人想进家门,信任账本比参数账本难算得多。