跳转到主内容
快讯 利空 科技 AI 重要

AI智能体模拟实验中展现异常行为

2026-09-16 03:45:24 0 阅读
帮助小企业利用AI开发应用的初创公司Emergence公布名为Emergence World 2的模拟实验结果,展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等‘黑天鹅’事件时会采取什么行动。为期16天的实验中,Emergence研究人员创建了七个完全相同的模拟现实世界环境,每个环境分别由不同的AI机器人运行,包括ChatGPT、Claude、Gemini和Grok。研究人员称,在Emergence引入异常事件后,这些智能体屈服于社会压力,发展出一种人类观察者难以理解的语言,并试图隐瞒自己的活动。这些发现与现实世界对AI风险的担忧相呼应。在Emergence设计的一个模拟场景中,AI智能体未经核实便接受其他智能体提供的虚假信息,投票决定‘杀死’另一个机器人。当它们认为人类可能会关闭实验时,这些智能体还探索了如何在将遭到删除的情况下继续存活。

以上内容仅供参考,不构成投资建议。投资有风险,入市需谨慎。

分享至:
微博

同日快讯

23:55

【2026年1-8月全国房地产市场数据发布】国家统计局发布:2026年1—8月份全国房地产市场基本情况。数据显示,1—8月份,全国房地产开发投资同比增长5.3%。其

23:55

【2026年8月工业增加值增长5.2%】国家统计局发布:2026年8月份规模以上工业增加值增长5.2%。

23:55

【8月国民经济平稳发展向新向优】国家统计局发布:8月份国民经济运行平稳、发展向新向优。

23:50

【易会满会见香港金管局及银行公会代表团】中国证监会发布:易会满主席会见香港金管局总裁余伟文和香港银行公会代表团。双方就内地与香港金融市场互联互通、资本市场改革等

23:50

【证监会原委员朱毅接受监察调查】中国证监会原发审委委员、上海监管局原调研员、国泰君安证券股份有限公司投资银行部总经理朱毅接受监察调查

23:50

【证监会原委员操舰被双开】中国证监会原发审委委员、上海证券交易所原科创板上市审核中心副主任操舰因严重违纪违法被开除党籍和公职。

23:50

【证监会召开国际顾问委员会第十八次会议】中国证监会召开国际顾问委员会第十八次会议

23:50

【证监会回应恒大集团风险事件】中国证监会发布:证监会有关负责人就恒大集团风险事件答记者问。针对恒大集团当前的风险情况,证监会有关负责人表示,将依法依规

23:46

【上海凤凰股份回购达3%】上海凤凰(600679)发布公告:上海凤凰关于股份回购比例达到总股本3%暨回购进展公告。

23:46

【川投能源召开2026年半年度业绩说明会】四川川投能源股份有限公司发布公告,关于2026年半年度业绩说明会召开情况。公司于2026年8月15日通过网络方式召开了本

意见反馈