近日，科技界传来了一则引人深思的报道，关于Anthropic公司首席执行官达里奥·阿莫代伊对未来高级AI模型的新颖构想。据外媒报道，阿莫代伊在一次公开访谈中提出了一个颇具颠覆性的观点，他设想未来的AI系统或将被赋予一种特殊功能——“退出按钮”，这一设计旨在让AI在遇到不愿执行的任务时能够主动选择退出。
在访谈中，阿莫代伊坦言这一想法或许会让他显得“疯狂”，但他坚持认为，随着AI技术的飞速发展，这些系统已经能够执行多样化的任务，并展现出越来越接近人类的认知能力。他形象地比喻道：“如果它像鸭子一样叫、像鸭子一样走，也许它就是鸭子。”这一表述旨在强调AI在行为上的拟人性。
此次访谈的契机是数据科学家卡门·多明格斯提出的一个问题，她询问Anthropic公司为何在2024年底聘请了AI福利研究员凯尔·费什，以探索AI模型是否可能具备感知能力，以及是否应获得道德上的考虑和保护。阿莫代伊对此回应称，公司正在积极探索这一领域，费什的研究正是这一探索的重要组成部分。
费什目前的研究聚焦于AI是否拥有感知能力，以及是否应享有道德保护这一极具争议的话题。阿莫代伊进一步解释说，他们正在考虑的一种可能做法是，在将AI模型部署到实际环境中时，为其配备一个“我放弃这项工作”的按钮。这一设计基于一个简单的偏好框架，即如果AI模型真的具备自主意识，并且非常厌恶某项工作，它就可以选择按下这个按钮。
阿莫代伊强调，这一设想的初衷并非要完全相信AI的自主意识，而是提供一种机制来观察AI的行为模式。他指出：“如果你发现模型经常按下这个按钮，做一些非常不愉快的事情，也许你应该关注一下。这至少表明，AI在某些情况下可能对其执行任务产生了不满或抵触情绪。”
