AI复制人声 + deepfake 制作色情游戏｜网民担心：AI电骗不远了
AI人声deepfake制作上古卷轴5成人mod 网担忧：AI人声电骗快了｜随著机械学习和AI生成技术日渐成熟，可以用AI制作的媒体内容越来越多，彷真度也越来越高；最近就有《上古卷轴5》Skyrim的玩家提出游戏现时有大量未经授权、以AI人声技术制作的成人内容，不单引来知识产权疑问，更有可能孕育出\新一代电子骗案。
游戏配音被输入AI模仿声线 制成R18色情内容
外国推特用户“Robbie”（@Robbie92_）早前在Twitter上发表帖文，指他作为会制作mod场景的人，自己十分关注最近流行的AI技术，并且发现有不少《上古卷轴5》Skyrim配音员的声线被mod制作社群滥用的情况。他进一步指出有不少Skyrim的配音在未有配音员本人许可的情况下，以deepfake、ElevenLabs等AI技术制作为成人内容。
👉2023动漫节重点前瞻 必抢福袋 Eva公仔 天火柯柏文｜ACGHK 2023
Robbie在文中列出了他所见到的声音被滥用的配音员名单，其中不乏外国知名的配音员；如“April Stewart”不单在上古卷轴系列中配过多个角色，亦是著名动画《South Park》衰仔乐园的长期配音员，多年来亦在《天命2》等多款游戏中献声。同时也为《命运2》和《耻辱2》提供了声音；“神奇女侠”Wonder Woman的动画及游戏版本的御用配音“Susan Eisenberg”也在名单上。
Robbie亦指出这些有问题的内容主要在知名mod网站“nexusmods.com”上出现，并呼吁玩家可以向该网站及开发Skyrim的Bethesda及发行商Zenimax回报相关问题，以求网站将有问题的内容下架。
👉消费券买Switch游戏3个方法 出机都用得｜eShop特价10只抵买推荐
nexusmod早前曾公开表明不拒绝使用AI技术制作的mod内容，因此最近在nexusmod上出现了不少以AI技术制作的mod内容；不过nexusmod的想表明的应该是“使用AI技术本身并不违规”，但是对于“AI技术所使用的素材本身是否合法”，则是由制作mod的人自己负责。
👉Switch 2发售时间｜台湾财经网站明确给出档期 当年曾准确爆料NS
AI翻唱成风但亦惹争议 配音员齐表反对
由之前AI绘画热潮到最近“AI翻唱”开始流行；不少人利用AI技术“学习”了某个名人、歌手或配音员的声线之后，再以之制作成影片或歌曲等。在外国很早就已经有“AI奥马巴”、“AI特朗普”等的影片，亦有“AI Rick Ashley”翻唱其他经典流行曲或动漫歌曲；香港早前也有“AI尹光”爆红。
👉知名成人游戏厂ILLUSION结业 网民叹时代终结：当年启蒙我性知识
但是想当然的，很难想像这些AI作品在制作前有取得原本声线主人的许可；而事实上在外国也已经有多位专业配音员在推特上公开表示禁止一切将自己的声线以AI技术制作成其他内容的公告。现时AI生成的内容都颇为灰色地带，即使现时未有针对AI生成声音、歌曲的大规模下架或法律行动，也难以知道将来会否有法律、知识产权等方面的问题。
👉传《原神》玩家人数3个月急跌51%｜玩家数5宗罪：新角色都是Gay佬
而稍早时份，为《刺客教条：枭雄》 （Assassin's Creed Syndicate）女主角“伊薇·弗莱”（Evie Frye）配音的外国配音员“Victoria Atkin”就指控Ubisoft以AI“盗取”了她的声音来配这个角色，可能是指Ubisoft以AI技术生成“伊薇·弗莱”的声线来在其他刺客教条游戏中使用。当然这目前只是来自配音员的控诉、未必代表事实的全部，但亦可见AI生成声音技术已是一个需要面对的议题。
任何人声线均可模仿 长远恐助长骗案
现时的AI模仿声线技术已颇为成熟，只要有足够的学习材料i.e.声音样本，AI可以在声线之外连一个人的语气及特色调都模仿、几乎可以乱真。也由此衍生出资讯安全隐忧，AI配音的像真度几可乱真之下，令人更难以辨别一段说话到底是由AI生成还是真的出自当事人之口，要制作假消息假内容“带风向”也变得更容易。更甚者有人担心如果载有自己的声音的影片或录音被输入到AI学习的话，可制作出自己的高度仿真声线，以之作电骗等就更难提防。