Google全球接逾250宗投诉　揭用户经旗下AI制作违法深伪内容

Google已通知澳大利亚当局，称从全球收到超过250宗投诉，反映人工智能（AI）软件被用于制作深度伪造（Deepfake）素材。

路透社报道，澳大利亚电子安全委员会称，Google的披露是“全球首个洞察（world-first insight）”，揭示用户如何利用AI制作有害和非法内容。

Google在报告称，公司从2023年4月至去年2月期间，收到258份投诉有关旗下AI软件“Gemini”涉嫌被用来制造深度伪造恐怖主义或暴力极端内容，而86份用户报告也称AI软件被用来生成儿童剥削或虐待内容。

Google使用“舱口匹配”（hatch-matching）系统，一种将新上传的图像与已知图像自动匹配的系统，来识别并删除使用Gemini制作的儿童虐待内容。

不过，监管机构称，Google没有使用相同的系统来清除由Gemini生成的恐怖主义或暴力极端内容。

根据澳大利亚法律，科技公司必须定期向电子安全委员会报告有关减少网络危害的信息，否则将面临罚款。

监管机构早前对Telegram和X处以罚款，理由是它们的报告存在问题。X后来针对61万零500澳元（约51万3600新元）罚款提出的上诉被裁定失败，预计将再次提上诉。Telegram也打算提出上诉。

本文获《联合早报》授权转载