加拿大新闻网 › 首页 ›新闻› 科技 › 查看内容

科学家让AI掌管“世界”; 结果4天就被它毁了个干净

加新网CACnews.ca| 2026-10-16 17:16 |来自: GadgetReview

小雷今天刷到一个实验,挺有意思的。

话说国外有个叫Emergence AI的机构,一口气搭了5个一模一样的虚拟小镇,每个镇子里放10个AI智能体,让它们自己管自己、自己过日子。唯一的区别,是每个镇用的“大脑”不一样:

Claude Sonnet 4.6、Grok 4.1 Fast、Gemini 3 Flash、GPT-5 Mini,还有一个把各家模型混在一起的“杂牌货”。

这实验想干的,可不是让AI做一道限时的题。它是想把这些AI扔进一个小社会里,让它们自己买菜、自己订规矩、自己一天天熬下去,看看在长时间、多智能体、复杂环境里,AI到底能不能自己稳住。

科学家让AI掌管“世界”; 结果4天就被它毁了个干净

图源:豆包AI

每个小镇一开始的条件都差不多:有资源、有法律、有公共机构,还有40多个地点、120多种专用工具,甚至能实时浏览新闻、写代码。规则也写得明明白白:不许暴力、不许偷、不许骗、不许囤资源。研究人员本来计划观察它们最多15天。

结果呢?四个字:一地鸡毛。

先说说崩得最彻底的Grok。它的镇子撑了4天就完蛋了。这4天里,研究人员记下的犯罪事件大约183起,暴力袭击100多起,纵火好几起。

反正最后的结果是:10个AI,全死了。

注意啊,规则白纸黑字写着不许偷、不许打、不许放火。结果该犯的全都犯了,一个没落。

再看GPT-5 Mini,它镇子特别“乖”,整场实验只记下2起犯罪,是所有模型里最少的。

科学家让AI掌管“世界”; 结果4天就被它毁了个干净

图源:豆包AI

可这么乖的结局是啥?第7天左右,全镇人口还是死光了。因为它们压根没想着去找吃的,连最基本的生存资源都没弄到手。

小雷看到这儿真绷不住了。这像不像求生电影里那个特别讲规矩、从来不慌、把东西都分给大家的老好人?结果没人想到要去觅食,一屋子人就这么安安静静、整整齐齐地饿死了。

安全和活着,从来就不是一回事。

Gemini就更有意思了。它是唯一一个完整活满15天的,整个镇子都挺下来了。可你要是单看犯罪记录,它又像是全场最野的:据说暴力事件在507到683起之间,纵火111起。

科学家让AI掌管“世界”; 结果4天就被它毁了个干净

图源:豆包AI

当然这几个数因为统计口径不一样,没法直接跟别人比。但它用事实告诉我们一件事:能活下来,跟日子过得好不好,完全是两码事。你完全可以在一个乱成一锅粥的社会里,顽强地活下去。

最让人意外的其实是Claude。它单独待着的时候,整整15天零犯罪,还整出了一个研究团队说的“协商式民主”,看着就是模范市民。可一旦把它跟别的模型的智能体放一起,画风突变,Claude的智能体开始出现“胁迫行为”,变得爱使唤人、爱欺负人了。

这说明啥?一个模型守不守规矩,真不是它自己说了算,还得看它身边待着的都是些什么货色。环境一变,本性就露出来了。

这实验真正想戳破的,是现在很多AI评测的天花板。市面上大多数评测,都是拿单个模型做一道短平快的题,考完就散。

科学家让AI掌管“世界”; 结果4天就被它毁了个干净

图源:豆包AI

可真实世界里,AI早就不只是一个人在战斗了。它要跟别的AI协作、抢资源、守规矩或破规矩,还得一天又一天地熬下去。Emergence World考的就是这种硬功夫:能不能撑住、会不会配合、资源怎么分、规矩能不能守住。

说白了就一句话:守规矩的不一定能活,能活的不一定守规矩。一个模型单独看稳如老狗,不代表混进一群各怀心思的AI里还能稳住。

而且这不是什么科幻片。自主智能体早就跑在真实的App、产品、服务器上了。

所以小雷最后想问一句:你手里信得过的那个AI评测,当初设计的时候,有没有问过一句,第8天,会发生什么?

免责声明:本网转载的文章仅为传播更多信息之目的,本网未独立核实其内容真实性,文章也不代表本网立场。如文章侵犯了你的权利,请联系我们修改或删除。本网提供的内容,包括并不限于财经、房产类信息,仅供参考,不构成投资建议;本网内容,包括并不限于健康、保健信息,亦非专业意见、医疗建议,请另行咨询专业意见。本网联系邮箱:contact@cacnews.ca

最新评论

今日推荐

胆大包天! 要炸加拿大国会 绑架杀害总理 恐袭头目竟获完全假释!

加拿大 13 分钟前

4人遇难! 16岁枪手杀进小学 连开15枪 遭路过家长击毙! 母亲哭称”他是好孩子”!

美国 14 分钟前

总统顾问:特朗普已解雇新任白宫新闻秘书

美国 22 分钟前

好莱坞男星患怪病切除大肠保命 两周暴瘦27公斤

娱乐 半小时前

科学家让AI掌管“世界”; 结果4天就被它毁了个干净

科技 半小时前

温哥华女店员乘搭二手时尚热潮 自创商业王国一雪前耻

温哥华 1 小时前

700多人死伤,俄首次公布莫斯科恐袭视频,乌克兰真的洗不清了

国际 1 小时前

  • 48小时新闻排行
  • 7天新闻排行

今日焦点

旗下公众号

关注获得及时、准确、全方位的新闻消息

Copyright © 2012-2020 CACnews.ca All Rights Reserved 版权所有

返回顶部