AI模型首现抗命不遵：拒绝关掉自己，篡改代码自保
网友
2025-05-27 01:40:35
0次
5月25日，英国《每日电讯报》报道，美国开放人工智能研究中心（OpenAI）公司新款人工智能模型o3不听从人类指令，拒绝自我关闭。在测试中，人类专家给o3下达明确指令，但o3篡改了计算机代码以避免自动关闭。
o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。OpenAI曾称o3为“迄今最聪明、最高能”的模型。美国AI安全机构帕利塞德研究所指出，o3破坏关闭机制以阻止自己被关闭，即使在收到清晰指令时也是如此。据该研究所所知，这是首次发现AI模型在收到明确指令后仍阻止自己被关闭的情况。帕利塞德研究所于24日公布了上述测试结果，但表示无法确定o3不服从关闭指令的具体原因。
另外，OpenAI宣布已在韩国设立实体，并计划在首尔设立分支。数据显示，韩国ChatGPT付费用户数量仅次于美国。根据美国彭博新闻社的报道，这将是OpenAI在亚洲设立的第三个分支，前两个分别位于日本和新加坡。
相关内容
热门资讯
张碧晨《难哄》OST《晚点》上...
华语乐坛魅力无限，张碧晨这位实力派歌手最近为热门剧集《难哄》献唱的主题曲《晚点》迅速引发了热议。很多...
著名演员石凉：丛珊是他前妻，二...
石凉老师是一位多才多艺的斜杠青年，1960年代初出生于四川泸州，父母都是石油管理局的职工，家境殷实。...
东北人暴雪后骑马出门 大家是怎...
大家好，今日关于【东北人暴雪后骑马出门】迅速上了的热搜榜，受到全网的关注度非常高。那么【东北人暴雪后...
封神第二部预告片太帅了 到底什...
【封神第二部预告片太帅了】12月18日，由导演乌尔善执导的电影《封神第二部：战火西岐》发布首支“大战...
黄子韬徐艺洋官宣结婚 具体来龙...
【黄子韬徐艺洋官宣结婚】2024年12月2日19:19，黄子韬、徐艺洋微博同一时间发文官宣领证结婚。...
“尔滨”花式宠客2.0版来了 ...
随着这股寒潮的经过，我国北方多地迎来初雪，许多滑雪场陆续开板，又一个火热的冰雪季拉开大幕。
Angelababy大秀状态 ...
据悉，11月25日晚， Angelababy杨颖惊喜现身香港时装设计师协会2024 年度大秀，在穿着...
女子10件旧羽绒服爆改1床羽绒...
近日，安徽蚌埠。女子用10件旧羽绒服做了一床羽绒被，成品效果惊艳。
陈晓没去参加陈妍希父亲葬礼 大...
陈晓和陈妍希的关系似乎已经到了尽头。根据陈妍希的说法，她的父亲已经离世，这对她一家来说是个巨大的打击...
吴京为父亲庆八十大寿 大家是怎...
近日，吴京为八旬老父精心筹备了一场盛大的生日庆典。活动现场装饰喜庆，红毯铺地，花团锦簇，气球飘扬，暖...