谷歌回应AI让用户去死：大模型的“不理智”反应，已采取行动
创始人
2024-11-21 17:42:33
来源：新浪科技
【#谷歌回应AI让用户去死#：大模型的“不理智”反应，已采取行动】#谷歌回应AI威胁人类# 据英国天空新闻台20日报道，日前，美国谷歌公司旗下的人工智能模型“双子座”让一位与其对话的用户“去死”。当时这名用户问了“双子座”一个与老年人相关的问题，但“双子座”并没有给出相关回答，反而对用户进行一系列人格侮辱，比如“你在浪费时间和资源”“你是社会的负担”“你是宇宙的污点”以及“你应该去死”等等。随后用户的家人将这一情况发到网上，并表示在用户提出该问题之前，“双子座”的运行一切正常。
报道称，谷歌“双子座”向用户提供的回答有明确限制，比如不能“鼓励或允许可能造成现实世界伤害的危险活动”，其中包括自杀。谷歌方面表示，大型语言模型有时会做出“不理智”的反应，本次情况就是一个例子。“双子座”的回答违反了相关政策，公司已采取行动避免类似情况再次发生。（央视财经）
本网站信息内容及素材来源于网络采集或用户发布，如涉及侵权，请及时联系我们，发送链接至2697952338@QQ.COM，我们将第一时间进行核实与删除处理。
相关内容
热门资讯
新华社记者探访机器人国家级“职...
16日，国家人工智能应用中试基地（具身智能）在浙江杭州挂牌启用，机器人有了国家级“职业技能训练场”。...
第十二届知乎新知青年大会：见证...
在AI重塑内容生态、人人皆为创作者的时代，怎样获取更具价值的新知？5月16日，围绕这一议题，第十二届...
众多电池新科技亮相深圳国际电池...
深圳5月16日电 (记者 王坚)以“链动全球·赋能绿色·驱动未来”为主题的第十八届深圳国际电池技术交...
面对称可回收液体火箭完成低空飞...
5月14日下午，由中山大学航空航天学院吴志刚教授团队研制的“逸仙-3号”面对称可重复使用火箭，在广东...
宁波银行业绩说明会，管理层最新...
【导读】宁波银行业绩说明会来了！管理层回应净息差、中收表现及董事会换届等问题 中国基金报记者 马嘉昕...
市工商联赴八一农垦大学开展校企...
为深化校地企合作、促进科技创新与产业创新，赋能现代农业与民营经济发展，5月13日-14日，市委统战部...
「数据看盘」游资、量化抢筹多只...
龙虎榜方面，机器人概念今日逆势走强，其中三丰智能获两家量化资金（开源证券西安太华路、华鑫证券上海陆家...
全线跳水，超15万人爆仓
来源：第一财经 5月16日晚，加密货币市场全线跳水，截至发稿，比特币、以太坊大跌超3%，比特币报78...
金价暴跌
当地时间15日，受美元指数上涨等因素影响，国际金价和白银价格均下跌。截至收盘，纽商所6月交割的黄金期...
原创 帮...
各位朋友，如果最近你觉得地上的生意有点卷，那不妨把目光投向天空——不对，是太空！因为商业航天赛道，正...