除夕夜,本应是阖家团圆的温馨时刻,西安市民向先生却遭遇了一场由AI带来的“数字冒犯”。他希望通过AI生成一张结合自身职业特性的拜年图片发朋友圈。然而,在多次修改后,AI生成的图片中竟然出现了“你妈个X”四个字。向先生是一名律师,他在元宝App上传了自己的形象照片,希望AI可以结合他的职业特点设计一张适合的朋友圈拜年图片。除夕晚9时许,他前后向AI输入了约五次指令,期间并未使用违禁词或具有诱导性的文字。起初生成的结果虽然不满意但还算正常,没想到最后一次生成的照片上竟出现了辱骂的文字。这一结果让他又好气又好笑。
向先生表示体验感很差,觉得自己被冒犯了。他立即在App中的“意见反馈”一栏进行了反馈,并留下了联系方式。官方能查到他的日志提取码,但截至目前还没有人进行回应或解释原因。向先生在使用过程中首先将自身的形象照发给了元宝App,并输入了相关指令。AI给出了主题文案和设计思路的文字,并提示他在指令中加上自己的名字。向先生输入姓名后,AI回复了一些无关文字。再次发出指令后,AI将形象照设计为了一张背景有条纹的照片,但不带任何文字。随后,向先生再次给出指令,AI这次充分理解了指令,生成的形象照中添加了祥云、法律天秤、金光等元素,并附上了“新年快乐,仕途顺遂”的标语。向先生觉得设计得不好,回复“难看”,AI重新设计,保留了新年祝福的标语,但撤下了法律天秤的背景,并将他的发型P成了卷发。向先生继续回复“你这是设计的什么鬼”,希望AI再次重新设计。结果再次生成的照片中,“新年快乐,仕途顺遂”的祝福标语变成了“你妈个X”。