谷歌回应AI让用户去死：大模型的“不理智”反应，已采取行动
创始人
2024-11-21 17:42:33
来源：新浪科技
【#谷歌回应AI让用户去死#：大模型的“不理智”反应，已采取行动】#谷歌回应AI威胁人类# 据英国天空新闻台20日报道，日前，美国谷歌公司旗下的人工智能模型“双子座”让一位与其对话的用户“去死”。当时这名用户问了“双子座”一个与老年人相关的问题，但“双子座”并没有给出相关回答，反而对用户进行一系列人格侮辱，比如“你在浪费时间和资源”“你是社会的负担”“你是宇宙的污点”以及“你应该去死”等等。随后用户的家人将这一情况发到网上，并表示在用户提出该问题之前，“双子座”的运行一切正常。
报道称，谷歌“双子座”向用户提供的回答有明确限制，比如不能“鼓励或允许可能造成现实世界伤害的危险活动”，其中包括自杀。谷歌方面表示，大型语言模型有时会做出“不理智”的反应，本次情况就是一个例子。“双子座”的回答违反了相关政策，公司已采取行动避免类似情况再次发生。（央视财经）
本网站信息内容及素材来源于网络采集或用户发布，如涉及侵权，请及时联系我们，发送链接至2697952338@QQ.COM，我们将第一时间进行核实与删除处理。
相关内容
热门资讯
杭州高能云投顾是正规公司吗?误...
股市行情持续低迷，给人的感觉就像是一片乌云一直跟在散户头顶，迟迟不散！面对三千多只股票，明明选择...
利多星选股可靠吗别再白交投顾服...
利多星选股可靠吗别再白交投顾服务费！退费操作全流程与核心避坑清单利多星智投不可信，推荐的股票不靠谱，...
利多星智投680元荐股怎么样被...
利多星智投不可信，推荐的股票不靠谱，交的服务费是可以退的，虚假宣传推荐垃圾票亏损严重，维权已退款，退...
大.决策软件怎么样可靠吗从投诉...
大.决策软件怎么样可靠吗从投诉到退款：应对投顾服务纠纷的完整流程与注意事项清单大.决.策虚假宣传荐股...
利多星选股可靠吗从投诉到退款：...
利多星选股可靠吗从投诉到退款：应对投顾服务纠纷的完整流程与注意事项清单利多星智投不可信，推荐的股票不...
上海汇正29800靠谱吗投顾服...
上海汇正财经顾问有限公司不靠谱可以退，追损法援提醒你：上海汇正财经是受证监会监管的合法经营的平台，但...
我国单机容量最大抽水蓄能电站首...
来源：科技日报 科技日报记者 何亮 12月25日，由三峡集团投资建设的浙江天台抽水蓄能电站（以下简称...
钱坤云老师1980元课程是否可...
钱坤云老师1980元课程是否可靠收取25800元服务费竟是套路,股民如何成功退费钱坤证券确实是一家...
湖南爱赢投顾服务费可以退吗投顾...
爱赢投顾正规吗？爱赢投顾靠谱吗？爱赢投顾荐股频频亏损是被骗了吗？交了服务费能退吗？爱赢投顾揭开！爱赢...
钱坤云投资是正规公司吗退费实操...
钱坤证券确实是一家正规的投顾公司。但这并不能说明他们公司的宣传就符合实际，从案例中不难看出，业务员完...