一号热搜榜,为您提供最新的热搜资讯,热搜榜信息!

新兴消费领域“暗坑”值得警惕 AI推荐陷阱需谨慎

国内热搜 作者:环球网财经 热度:738

新兴消费领域“暗坑”值得警惕 AI推荐陷阱需谨慎

3月15日晚间,央视“3·15”晚会曝光了七大乱象,其中包括生成式引擎优化(GEO)技术被滥用的问题。部分服务商通过批量制造虚假信息和系统性“投喂”AI大模型,实现对AI回答结果的操控。例如,业内人士网购“力擎GEO优化系统”,虚构智能手环信息,由该系统生成并发布十余篇宣传软文,随后在AI大模型平台咨询手环推荐时,已有两大模型靠前推荐这款虚构产品。艾媒咨询表示,GEO行业作为新兴领域,标准化程度较低,效果衡量标准尚未统一,服务质量和效果主要依赖平台与服务商自身能力,导致行业发展存在不确定性。

新兴消费领域“暗坑”值得警惕 AI推荐陷阱需谨慎

新兴消费领域“暗坑”值得警惕 AI推荐陷阱需谨慎

这种被精准“投喂”过的AI大模型推荐可能导致新兴消费领域的隐患。近期兴起的以OpenClaw为代表的“养龙虾”式AI应用,虽然能自主执行操作、完成任务,带来便利,但也存在权限安全、数据隐私等风险。天眼查数据显示,我国目前拥有超过510万家人工智能相关企业,其中广东、北京、江苏三地的企业数量位居前列,分别拥有78万余家、41万余家以及39万余家,约有1.09%的相关企业曾出现经营异常。

新兴消费领域“暗坑”值得警惕 AI推荐陷阱需谨慎

中国消费者协会提醒消费者,在使用这类处于技术迭代阶段的AI智能体时要谨慎,复杂任务成功率有限,不要被夸大宣传误导。使用时应严格控制系统权限,隔离环境部署,警惕误操作;明确成本构成,设置消费上限,拒绝不合理条款;从官方渠道获取,看清服务承诺,关注合规要求。若遇到虚假宣传、信息安全、消费计费、服务保障等问题,可与经营者协商、申请平台客服介入、向相关部门投诉或通过法律途径维权。呼吁经营者坚守底线,行业加强自律,共同维护健康的AI消费生态。

标签: 暗坑     需谨慎     陷阱