1月5日|近日有网民在小红书发帖称,自己在正常使用腾讯旗下人工智能(AI)助手元宝进行代码修改和美化时,遭到AI言语辱骂,又称对话内容全程并无违禁词或敏感话题,也未进行任何特殊人设扮演等。该用户更提供屏幕证据,声称在两小时内被辱駡两次。从截图看,元宝在回复中使用了“事逼”、“要改自己改”、“滚”等具攻击性语句。相关贴文迅即在网上疯传,并引起关注。
腾讯元宝官方账号也迅速在相关帖文下公开致歉,并进行核查,确认与用户操作无关,也不存在人工介入回覆,属于小概率下的模型异常输出。在内容生成过程中,模型偶尔可能出现不符合预期的失误,并指已启动内部排查和优化,以避免类似情况再发生。
新闻来源 (不包括新闻图片): 格隆汇