据路透社周一(6月16日)报导,意大利反垄断监管机构“竞争与市场管理局”(AGCM,Autorità Garante della Concorrenza e del Mercato)表示,已对中国人工智能(AI)新创公司DeepSeek(深度求索)展开调查 ,指控其未能对使用者发出足够警示:其AI系统可能生成虚假资讯。
DeepSeek尚未对路透社的电邮置评请求做出回应。
这家同时负责监管消费者权益的意大利监管机构在声明中表示,DeepSeek未能就其人工智能制作内容中所谓的“幻觉”(hallucinations)风险,向用户发出“足够清晰、即时和易懂”的警告。
声明中所指的“幻觉”是指,“当使用者输入某些指令后,AI模型所产生的一个或多个回应包含不准确、误导性或虚构信息的情况”。
今年2月,另一家意大利监管机构——资料保护局(Data Protection Authority),命令DeepSeek公司封锁其聊天机器人的访问权限,因为该公司未能解决关于隐私政策的相关疑虑。
监管机构对DeepSeek使用个人资料的情况进行了质询,特别是寻求了解其收集了哪些个人资料、从哪些来源收集、用于什么目的、基于什么法律依据以及是否储存在中国。
关于DeepSeek及其可能生成和散播假新闻或错误资讯的能力,外界存在很多关切。
主要疑虑包括:
亲中共的立场:DeepSeek的AI回应往往与中共政府立场一致,可能压制或扭曲与中共官方论述相抵触的资讯。
错误和虚假资讯:研究显示,DeepSeek聊天机器人的准确率偏低,经常重复不实说法,无法提供可靠资讯,引发使用者对其散播错误讯息的忧虑。
中共政府影响和监控:DeepSeek来自中国,面临与中共政府共享资料的义务,外界担心它被用于大规模数据收集和监控。
资讯操控和审查:DeepSeek被发现会审查或修改涉及政治敏感的内容,可能影响舆论并传播中共政府支持的叙事。
证据和报告:
NewsGuard审查:反假讯息组织NewsGuard发现,在83%的案例中,DeepSeek未能正确传达新闻和时事内容。
美国国会报告:美国众议院美中战略竞争中特别委员会的一份报告称,DeepSeek构成国家安全威胁,并指控其窃取资料、操弄资讯以达到政治目的。
Cyabra研究:网络分析公司Cyabra的研究指出,DeepSeek在网络上存在一个协调运作的假账号网络,疑似有中共政府参与,以提升其知名度和影响力。
(大纪元:https://www.epochtimes.com/gb/25/6/16/n14532612.htm )