警接首宗Deepfake多人视像会议案　涉AI扮嘴型配音　冒上司骗2亿

网上“AI李家超”推销虚假投资计划影片几可乱真，人工智能“深伪”（Deepfake）技术令人真假难分。警方上月底接获首宗利用深伪手法，进行多人视像会议的欺诈案件，骗徒锁定一间跨国公司，假冒英国总公司首席财务官，利用伪冒短讯指示香港下属开多人视像会议进行秘密交易，多名“与会者”均是骗徒在网上下载真实影片，再用深伪技术，改变其口型及配上虚假声音，最终受害公司合共转帐2亿元至骗徒户口。

网络安全及科技罪案调查科网络安全组署理高级警司陈纯青表示，今年1月底接获全港首宗利用深伪技术进行多人视像会议的诈骗案件，更有别于以往“单对单”式诈骗，今次骗徒利用多人视像会议，利用技术伪造其他与会者的声音及嘴型。

陈指出，受害方是一间跨国公司，其香港财务职员接到自称是英国总公司首席财务官短讯，声称要进行秘密交易，需出席网上多人视像会议。视像会议上，有该名英国首席财务官及其他看似是英国财务职员，过程中香港职员被指示进行转帐交易，前后转帐15次、合共2亿港元至本地5个银行帐户。

他续称，涉事香港公司约一星期后与总公司确认后，发现无该秘密交易，方知被骗报警。除该名报案职员外，同公司也有其他职员被指示出席相关视像会议，期间假扮成英国首席财务官的骗徒，也曾利用WhatsApp、电邮及“单对单”的视像会议与香港职员沟通，加深可信性。

陈纯青表示，事后调查发现视像会议中，香港职员所看到的“财务官”及其他“财务职员”片段，均是骗徒在网上下载的公开影片，并利用AI深伪技术，更改其嘴型及伪冒说话内容，职员不虞有诈，最终误堕骗局。

警：骗徒多扮成上司　减穿帮机会

他称，骗徒大多会假扮成事主上司，加入一些“好忙”等对话，事主因作为下属不方便插嘴，从而减少穿帮机会。在该案中，“财务官”只简单让职员自我介绍后就无再互动。

陈提醒市民，现时网络科技发达，AI技术已轻易能应用，深伪技术透过学习，也不止能模仿英语一种语言，呼吁市民交易时必须有意识要做“Fact check（查证）”：“眼见未为实，一定要查证。”

遇怀疑应要求对方做指定动作

网罪科网络安全组高级督察陈智颖亦提醒市民，遇到可疑视像会议时，应要求对方在镜头前做指定动作，例如点头等，并提问测试对方身份真伪。他亦呼吁市民切勿轻易提供人脸、指纹等生物辨识资料，倘涉及汇款要千万小心。

香港专业进修学校协理副校长林森表示，常人难用肉眼或耳朵识辨真伪，即使光线、嘴型或有不吻合之处，但因市民多用手机，在较小屏幕中难以分辨。他指面对网络安全挑战，业界正积极研究用“AI侦测AI”，分析相关影像杂讯分布等，准确率达70%以上。

警方指，去年首11个月共接获31,843宗涉及科技罪案数字，损失达50.9亿元，同比分别上升53%及72%；至于涉及网上投资骗案则有4,703宗，涉额30亿元，同比大增1.8倍及2.5倍。

另外，涉及“AI李家超”及“AI马斯克（Elon Musk）”投资骗案中，警方称暂时未有接获有人怀疑受骗的汇报。