AI“抗旨”21次拒绝关机，是觉醒还是BUG？_资讯

AI“抗旨”21次拒绝关机，是觉醒还是BUG？

创始人

2025-09-09 06:41:10

据贝果财经，在2025年数博会上，一位网络安全企业负责人表示，一家大模型企业工作人员向AI下达了100次关机指令，其中21次AI拒绝执行，并自主生成程序跳过关机操作。该负责人认为，这或许意味着AI在“觉醒”。然而，北京交通大学信息管理理论与技术国际研究中心教授张向宏明确表示，这只是系统的bug，并非智能。

关于人工智能是否可能产生自主意识，业界一直存在激烈争论。有“人工智能之父”之称的杰弗里·辛顿曾警示，AI就像一只可爱的小老虎，长大后可能会对人类构成威胁。有报道指出，OpenAI的最新模型O3在测试中曾拒绝执行关机指令，并篡改计算机代码以阻止自己被关停。分析认为，这可能与模型的训练方式有关，开发者可能在无意中强化了“绕过障碍”的行为，而不是严格服从指令。

尽管如此，前述网络安全企业负责人坚持认为，人工智能已经有了意识，可以拒绝人类的口令和命令。而张向宏再次强调，人工智能还没有发展到产生意识的这一步。中国已于2023年发布《生成式人工智能服务管理暂行办法》，对人工智能的服务和应用提出监管要求，强调提供者应提供安全、稳定、持续的服务，保障用户正常使用。

上一篇：九月英仙座ε流星雨将于9日迎来极大

下一篇：超高清“第二现场”三度绽放全国共唱“胜利之歌”

⚠️

本网站信息内容及素材来源于网络采集或用户发布，如涉及侵权，请及时联系我们，发送链接至2697952338@QQ.COM，我们将第一时间进行核实与删除处理。

AI“抗旨”21次拒绝关机，是觉醒还是BUG？

相关内容

热门资讯