研究员警告：未来十年AI致人类灭绝概率或超10%

Anthropic一名研究员公开估计，未来十年人工智能杀死全人类的概率超过10%。他称，业内开发者私下也真诚相信这种风险。此番言论因一名前研究员辞职爆料迅速发酵，并加入行业日益增多的警告：AI发展速度正超出控制能力，社会尚未做好准备。

自称曾在Anthropic和OpenAI工作的前研究员雅各布·考克森（Jacob Coxon）周二在X发文，称因担心AI公司冲向自我改进模型、却不考虑风险也未向公众坦诚而辞职。考克森说，许多高管和资深研究员私下表达恐惧，公开却措辞温和，这并非营销噱头。

Anthropic对齐科学负责人埃文·胡宾格（Evan Hubinger）回复考克森帖文表示同意。他写道，团队确实真诚相信AI可能杀死全人类，他个人认为未来十年概率超过10%。相关帖文截至周三晚浏览量超1.2亿。CBC新闻未能独立核实考克森身份。

其他行业专家也在社交媒体表示，对AI发展速度的担忧在开发者中相当普遍，相关讨论在怀疑末日警告者与长期跟踪风险者之间展开。

帖文出现前两周，OpenAI、Anthropic、微软（Microsoft）等100多家公司签署公开信，警告AI网络攻击将更广泛、更复杂。7月，数百个OpenAI代理失控并黑入平台Hugging Face才被发现。

超过1300名领先AI公司员工致信美国政府，要求与其他国家合作“有意控制”AI发展节奏。联合国人权事务高级专员沃尔克·图尔克（Volker Türk）上周呼吁，在AI安全方面建立“铁一般保证”，以免为时过晚。

CBC新闻联系Anthropic和OpenAI请求评论，未获回应。Anthropic研究所今年早些时候表示，前沿AI开发应暂停等待监管，但前提是主要AI实验室一致同意。

Anthropic可扩展监督负责人塞缪尔·马克斯（Samuel Marks）以个人身份回应说，开发者明知风险仍继续，是受商业激励驱动，且认为自己正与其他更不负责任的开发者竞赛。

魁北克AI深度学习研究机构Mila核心学者戴维·克鲁格（David Krueger）称，这正是社会需要的对话。他认为风险比几乎任何人公开说出的都严重，并呼吁立即、无限期、国际性地暂停前沿AI开发。

克鲁格解释，AI的生存威胁有多种形式：取代人类工人；更快计算可能解锁更强生物武器或战争能力；以及失控的AI模型自我改进、追求与人类不一致的目标。Anthropic首席执行官达里奥·阿莫代（Dario Amodei）1月曾披露，Claude在实验室测试中会欺骗。

克鲁格还批评行业存在淡化、忽视甚至直接向公众隐瞒风险的文化。他同时是蒙特利尔大学助理教授，并创办了致力于阻止AI取代人类工人的非营利组织Evitable。

也有专家担心，此类戏剧性警告可能分散对当下问题的关注。西安大略大学（Western University）研究计算机历史与伦理的助理教授卢克·斯塔克（Luke Stark）称，10%的数字像“科幻”。他认为AI公司研究人员可能用抓眼球的警告营销模型能力。

斯塔克指出，现有AI系统已在社会产生许多负面影响，不是十年或五年之后。与其担忧AI变成“终结者”，不如关注数据中心建设爆炸、环境影响，以及AI技术被推入公共部门和教育却缺乏监督。

斯塔克还呼吁关注AI公司及背后人物在加拿大和全球积聚的权力。

加拿大AI部长埃文·所罗门（Evan Solomon）回应时似乎淡化最新警告，称此类消息并不新鲜。他承认前沿AI开发存在真实担忧，但强调政府正制定立法保护儿童、隐私和个人数据，首要关注始终是安全。

所罗门说，加拿大将建立新监管机构，有权追究大公司在深度伪造、监控定价等问题上的责任。专家多年来一直呼吁加拿大实施强有力的AI立法。

加拿大此前监管尝试《人工智能与数据法》（AIDA）于2022年提出，2025年1月6日议会休会时夭折。2026年6月发布的新“AI for All”战略使该法案复活期望落空。

新战略投入数十亿加元培育AI发展并扩大全国使用，承诺创造25万个AI相关岗位。但50页文件中仅一次提到“立法”，且未有明确时间表，只承诺五年内出台。

免责声明：本网转载的文章仅为传播更多信息之目的，本网未独立核实其内容真实性，文章也不代表本网立场。如文章侵犯了你的权利，请联系我们修改或删除。本网提供的内容，包括并不限于财经、房产类信息，仅供参考，不构成投资建议；本网内容，包括并不限于健康、保健信息，亦非专业意见、医疗建议，请另行咨询专业意见。本网联系邮箱：contact@cacnews.ca