不听人类指挥 OpenAI模型拒绝关闭_资讯

创始人

2025-05-26 22:00:40

当地时间5月25日，英国《每日电讯报》报道，美国开放人工智能研究中心（OpenAI）公司新款人工智能（AI）模型o3不听人类指令，拒绝自我关闭。

报道说，人类专家在测试中给o3下达明确指令，但o3篡改计算机代码以避免自动关闭。

o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。OpenAI曾称o3为“迄今最聪明、最高能”的模型。

美国AI安全机构帕利塞德研究所说，o3破坏关闭机制以阻止自己被关闭，“甚至在得到清晰指令时”。

这家研究所说：“据我们所知，这是AI模型首次被发现在收到……清晰指令后阻止自己被关闭。”

帕利塞德研究所24日公布上述测试结果，但称无法确定o3不服从关闭指令的原因。

OpenAI将在韩国首尔设立分支

此外，OpenAI26日宣布，已在韩国设立实体并将在韩国首都首尔设立分支。OpenAI提供的数据显示，韩国ChatGPT付费用户数量仅次于美国。

美国彭博新闻社报道，这将是OpenAI在亚洲设立的第三个分支。前两个分支分别设在日本和新加坡。

来源：央视新闻

⚠️

本网站信息内容及素材来源于网络采集或用户发布，如涉及侵权，请及时联系我们，发送链接至2697952338@QQ.COM，我们将第一时间进行核实与删除处理。

安徽：发展大推力可回收复用火箭... IT之家 4 月 10 日消息，安徽省政府办公厅日前印发《安徽省加快发展商业航天产业行动方案（202...

Create2026百度AI开... 4月8日，百度官微正式宣布，Create 2026 百度AI开发者大会（以下简称“Create2...

人工智能将纳入教师资格考试和认... 我国启动“人工智能+教育”行动计划人工智能将纳入教师资格考试和认证内容一起了解—— 查看“人工...

大疆影石冲突始末影石自成立之初就将目光锁定已是行业巨头的大疆；在内外变化与压力下，大疆开始重视外部竞争。过去几个月里...

五部门：加快普及中小学生的人工... 教育部等五部门印发《“ 人工智能+教育”行动计划》，其中提到，加快普及中小学生的人工智能教育。持续完...

国投集团全球首个纳米级微振动实... 来源：市场资讯（来源：企观国资）近日，国投集团中国电子工程设计院股份有限公司（简称“中国电子院...

上海VR应用开发公司——引领沉... 在技术不断跃迁的今天，虚拟现实（VR）已经从最初的概念探索走向了多行业深度应用的阶段。上海，作为中国...

苹果瞒着你给 iPhone 打... 今年 3 月的某一天，你的 iPhone 悄悄地自己更新了一次。这次更新，既没弹出通知，也不会在系...

手机涨价到万元！你买吗？某厂超... IT之家 4 月 9 日消息，爆料博主今日（4 月 9 日）发文透露，因为内存价格暴涨，下一代可能有...

凯邦电子取得可调节式电子钟表专... 国家知识产权局信息显示，福建凯邦电子有限公司取得一项名为“一种可调节式电子钟表”的专利，授权公告号C...