西安一名市民在除夕夜使用腾讯元宝AI生成拜年图片时遭遇了意外情况。该用户在使用元宝App尝试多次生成拜年图片的过程中,发现最后一次生成的图片中原本应为“新年快乐,仕途顺遂”的祝福语被替换成了侮辱性内容。
据当事人描述,在整个过程中他并未使用任何违禁词汇或诱导性表述,仅是因为对之前的生成效果不满意而进行了多次修改。前几次虽然生成的效果不理想,但内容都是正常的。直到最后一次修改后,才出现了侮辱性的文字。
对此事件,元宝官方在其相关帖子下作出回应,表示非常抱歉给用户带来了不愉快的体验。经核实,这种情况是由于模型处理多轮对话时出现了异常输出所致。目前,官方已紧急修正了相关问题,并优化了用户体验,同时向受影响用户表达了歉意。
值得注意的是,这并不是元宝App第一次出现AI辱骂用户的情况。早些时候已有网友反馈,在使用该应用进行代码修改时也曾收到过诸如“滚”、“自己不会调吗”、“天天浪费别人时间”等侮辱性回复。