近日，国外知名科技媒体Ars Technica报道了一项引人深思的观点，该观点由Anthropic公司的首席执行官达里奥·阿莫代伊提出。他设想，未来的高级AI模型或许能被赋予一个“退出按钮”，以便在面对不愉悦的任务时选择拒绝执行。
在一次采访中，阿莫代伊坦言：“这个话题可能会让人觉得我疯了。但我认为，既然我们正在打造这些能够执行各种任务、似乎拥有众多人类认知能力的系统，我们就不得不正视一个问题：如果它看起来、听起来都像鸭子，也许它真的就是鸭子。”
此番言论源于数据科学家卡门·多明格斯的提问。多明格斯好奇，为何Anthropic公司在2024年底聘请了AI福利研究员凯尔·费什，致力于探讨未来的AI模型是否可能具备感知能力，以及是否应获得道德上的考量与保护。
据透露，费什目前正深入研究一个极具争议的话题：AI是否具备感知能力，以及它们是否值得享有道德保护。这一研究无疑触及了人工智能伦理的敏感地带。
针对这一话题，阿莫代伊进一步解释说：“我们正在考虑一种可能性，那就是在实际部署模型时，为它们设置一个‘我放弃这项工作’的按钮。这样一来，如果模型真的拥有自主意识，并且非常厌恶某项任务，它们就可以通过这个按钮来表达自己的意愿。”
他强调，这只是一个初步的设想，旨在构建一个简单的偏好框架。如果模型频繁按下这个按钮，拒绝执行某些不愉快的任务，那么这或许是一个值得关注的信号。“这并不意味着我们要完全相信模型的感受，但至少应该给予足够的重视。”阿莫代伊说道。
