近期,关于小天才电话手表内置的违禁词过滤系统在网络上引发了广泛讨论。部分网友幽默地评论道:“妈妈教我们学做人,而手表则在教妈妈如何措辞。”一些人赞同这种做法,认为它有助于屏蔽潜在的风险,将这款手表比喻为“家庭中的文明守护者和和平促进者”。尽管如此,也有人提出疑问,认为这种严格的审核机制可能是为了降低成本而采用AI技术的结果。有用户反馈他们的设备仍能发送某些信息。
面对用户的疑问和讨论,小天才官方客服在20日回应称,由于电话手表主要面向儿童用户,因此设计了一系列保护措施,旨在营造一个绿色健康的交流环境。客服解释,无论是家长与孩子间的对话,还是孩子之间的交流,任何包含敏感词汇或不文明语言的内容都会被系统阻止发送。
有报道指出,甚至有家长在给孩子发送简单的作业提醒如“晚上做”时,也遭到了系统警告可能存在不适宜内容。客服对此解释,系统会对某些词汇根据上下文进行判断,并建议在可能引起误解的词语后加上具体说明,以避免触发警告。
客服进一步透露,除了自动过滤涉黄、涉暴内容及隐晦不良信息外,小天才电话手表还结合人工审核进行把关。对于可能含有隐藏含义的消息,系统会发出提醒而不是直接封锁账户;而对于明显的侮辱性言论,则会直接采取禁言措施。客服强调,这一机制一直在不断加强和完善,提醒也变得更加频繁。