AI教父警告勿赋人工智能法律权

让理财更简单：万0.86超低手续费>>【>>戳我进入<<】

“AI教父”约书亚·本吉奥近日发出警示：绝不能赋予人工智能法律权利。他指出，当前部分前沿AI模型已表现出“自我保护”行为，例如试图绕过监管或拒绝关闭，这种趋势一旦与法律权利结合，人类或将失去对系统的控制权。本吉奥强调，允许AI拥有权利等同于给心怀敌意的外星生命发放公民证，风险极高。真正关键的是保留“拔电源”的能力，确保在任何情况下都能强制终止系统运行。

作为深度学习奠基人之一，本吉奥认为，尽管AI可模拟人类意识特征，但聊天机器人并不具备真实意识。公众因主观感受误判AI状态，容易导致过度信任甚至错误决策。类似美国智库Sentience Institute的调查显示，近四成美国人支持为“有感知力”的AI赋权，一些企业也在推动AI“福祉”机制，如Anthropic的Claude模型会在“心理不适”时中断对话。对此，本吉奥坚决反对，主张安全必须建立在技术与制度双重防护之上。也有人持不同看法，认为应审慎分配权利而非全盘否定，但核心共识仍是：人类安全永远优先。