原创 Roblox上线AI改写技术,不用担心发言被和谐了
创始人
2026-03-14 03:48:54

“傻福”是一个近年来在互联网上流行的词汇,它的含义也很简单,就是用“福”字来代替某个字骂人。如今随着互联网行业的内容审核技术不断迭代,使得网友搞出了通假其他字的操作,甚至总结出“和谐守恒定律”,也就是每当一个“脏字”被屏蔽,就会有一个“干净”的字躺枪成为新的“脏字”。

类似的现象不止发生在中文互联网,海外市场也一样。在相当长的一段时间里,X、Instagram、TikTok等社交平台上的Chinese(中国人)就被海外网友用来指代Jews(犹太人)。

为了彻底解决用户规避内容审查的现象,在线游戏平台Roblox日前宣布上线一项基于AI的实时聊天改写功能,在玩家发送含有违规内容的消息时,Roblox的系统将不再简单地用“#”号来屏蔽,而是自动将相关表述改写为更为礼貌、符合平台规范的语言,同时尽量贴近用户原本的表达意图。

Roblox方面表示,过去大段的“####”不仅会打断对话节奏,也让玩家难以理解上下文,因此希望通过这一方式,在维持社区文明标准的前提下减少聊天过程中的摩擦。在新的机制下,当用户输入包含敏感词的内容时,聊天窗口将直接显示经过改写后的文本,并向所有参与对话的用户提示该消息已被重写,以帮助保持交流氛围的友好与清晰。

用#、*来屏蔽攻击他人的仇恨言论,已经是网络游戏中的通行解决方案,甚至还闹出过不少笑话。比如腾讯旗下知名网游《天涯明月刀》的答题活动中就出现过系统提问“兵马未动,_______”,玩家回答了“粮草先行”后,但由于屏蔽词的存在,就变成“粮*先行”,结果自然是无一人答对。

这个案例就反映出内容审核对玩家交流所造成的负面影响,然而这种影响在此之前却被视为“必要的代价”,因为如果放任玩家发布不和谐言论,最终的代价还得是厂商来支付,也就是所谓的“粉丝行为,偶像买单”。

不知道大家是否注意到这样一个现象,那就是澳大利亚已正式实施16岁以下青少年社交媒体禁令,并且英国、丹麦、马来西亚、巴西、印度尼西亚和新西兰也在研究或酝酿出台类似的限制措施。社交媒体对青少年心理健康及安全的潜在威胁已经被摆在了台面上,可Roblox是一款网络游戏而非X、Facebook等社交媒体,为何也会被波及呢?

其实Roblox并不是一款传统的网络游戏,而是一个在线游戏创作平台。该公司是这样形容自己的,“Roblox正在重新设想人们的交流方式。我们的平台让任何人都可以通过沉浸式3D体验进行创造、连接、学习、购物和表达自己”。作为曾经的“元宇宙第一股”,Roblox与其说是一个游戏,不如说是像素风的《模拟人生》。

不仅如此,由于卡通风格的画面设计,Roblox更是成为了青少年的“时尚单品”,但这既是优势,也是它的巨大风险所在。尽管Roblox致力于将用户年龄层从13岁以下扩展到全年龄段,但根据官方公布的数据,截至2025年第一季度,他们拥有9800万日活,其中38%来自13岁以下的用户。

由于青少年用户占比极高,所以Roblox长期也面临未能有效保护未成年人身心健康的争议。自从2025年以来,Roblox在美国多地陷入法律风波,这些诉讼源于多篇调查报道和研究机构的指控,认为Roblox的匿名机制、虚拟货币交易以及安全监管漏洞,将儿童暴露在包括诱骗、露骨内容等高风险环境中,并为不法分子创造了可乘之机。

外界质疑Roblox能否承担起属于“孩子的乐园”这个社会责任,对于这一点相信国内的游戏厂商一定深有感触。简而言之,在监管压力和社区安全诉求的双重推动下,Roblox必须要展现出改变现状的决心,此次的AI改写功能便是其保障青少年心理健康的举措。

当然,Roblox也有自己的想法,他们并没有一刀切,而是尝试用AI来改变这个问题,在保障安全的同时尽可能维持玩家之间的正常交流。

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

宁夏锦华化工取得降低单耗的破料... 国家知识产权局信息显示,宁夏锦华化工有限公司取得一项名为“一种降低单耗的破料系统”的专利,授权公告号...
我国推动科研评价体系改革,中国... 4 月 5 日消息,据中国科学院今日分享中央广播电视总台报道,其已明确各院所单位自今年 3 月 1 ...
AI“掌炉”数据“掌舵” 看大... 传统重工业遇上人工智能,会产生怎样的变化?在柳钢集团旗下的广西钢铁(柳钢防城港基地),记者实地探访发...
SpaceX想往太空发射一百万... (来源:麻省理工科技评论) 今年 1 月,马斯克的 SpaceX 向美国联邦通信委员会(FCC)提交...
GPT-Image-2泄露 时隔4个月,OpenAI的图像生成模型真的要更新了。 今日,社交平台X上有消息称,OpenAI正在大...
索尼CEO:娱乐业为公司贡献超... IT之家 4 月 5 日消息,索尼首席执行官十时裕树在接受彭博社采访时表示,公司正在从传统消费电子业...
构建Claude Code的经... 作者 | Michael Redlich 译者 | 刘雅梦 策划 | 褚杏娟 构建智能体工具带中最困...
AI融入社会的三阶段风险!以自... 来源:市场资讯 (来源:新智元) 新智元报道 编辑:LRST 【新智元导读】当AI智能体从「被动预...
甘南州第三类医疗器械《经营许可... 甘南州第三类医疗器械 《经营许可证》经营方式变更公示 (2026第0003号) 根据企业行政许可申请...
停掉七成产能,娃哈哈在寻找真正... 来源:市场资讯 (来源:寰球财评) 三月底的时候,快消品圈子里面开始流传一个消息,说娃哈哈的几个主...