来稿｜AI技术是双刃剑　规管立法需先行

随着ChatGPT等生成式AI的面世，为人类文明揭开新篇章，将会创造社会的新常态，可是传统商业模式和法律却未能适当地配合，如此便难免构成风险，最近更有多位国家领袖及专家纷纷公开表达相关的担忧。日前，欧盟通过全球首个规管人工智能（AI）的法案，对最高风险AI用途设新的限制，并大幅限制使用人脸识别软件。欧盟透过立法一步站上全球科技规范龙头老大的地位，包括美国在内等其他国家，对于人工智慧带来威胁的法律规范却仍在萌芽阶段。

来稿作者：骆俊伟

著名电影《未来战士》描述产生自我意识的AI是人类“终结者”。虽然电影情节只属虚构，但亦引申出值得人类思考的一个问题，“人工智能带来人类社会进步？还是会带来人类文明的灭亡？”ChatGPT创办人Sam Altman与数百位AI技术权威专家联署的公开信中，强调AI对人类存有威胁，继而要求社会须正视其危险性。人工智能的问题也被纳入上月七大工业国的讨论焦点，可见世界聚光灯已投向AI技术的安全发展。

AI技术为人类带来便利

现在AI技术还没有大规模落地应用，但是已经在一些产业上落地使用了，像医疗、交通、金融、教育、安全等产业上，给人类带了很多便利，能够解决社会部分“奇难杂症”，构建更美好的人类社会。以治疗不育为例，目前主要依靠人工受孕治疗不育症。惟根据欧洲医学权威杂志Acta Informatica Medica研究报告，传统辅助生殖技术如试管婴儿的成功率不足30%，主观分析过程欠缺准确性。

因此有医疗公司为帮助人类实现组织家庭的梦想，便融合全球的临床大数据及AI技术，参照胚胎数据库与患者的病历基因纪录，并结合以往发育成功的胚胎案例，自动客观分析能够发育成功的胚胎，让受孕时间更短，提升人工受孕的成功率。试管婴儿AI技术的应用为不育患者带来新的曙光，亦为全球人口老化问题带来有效的“止痛剂”。

AI技术安全问题或成隐忧

AI技术不断迭代进步的优势已从多方面体现，但人工智能计算机专家Stuart Russell指出AI的威胁同样来自不断提升的智慧与能力。电影情节时有描绘AI攻撃人类，以前总以为只存于电影中，但现在确实有活生生的例子发生。不久前美军一架无人机在执行模拟任务中，因操作员先后发放“优先摧毁”及“停止攻击”的指令，被AI系统认为受到阻碍任务执行，继而杀死操作员。事件过后，美军在重新训练无人机使用AI系统时，更遭遇AI系统主动命令无人机摧毁用于传输命令的信号塔，以截断与操作人员的联系。

事件反映AI技术的应用机遇和风险并存，规范的立法和监管制度可以避免人为的错误和滥用，从而构建信任和安全的使用环境，在公平的情况下把大众焦点都倾注在产品技术研发上，减少一些不必要的问题滋生，让产品或者技术更好服务于人类。

法规不能一刀切

目前各国监管策略大有不同，却都以规范AI技术为目标。以欧洲议会日前正式投票通过全球首个规管AI的法案——《人工智能法案》为例，法案将适用于任何使用AI技术的产品或服务，并按风险程度分为4级，按级别提升监管程度。较高风险的用途包括将AI技术用于水电等基础建设、法律制度、公共服务，以及儿童产品等，将会受到较严格规管，包括要提升对用户的透明度，以及减少AI偏颇的可能性。

本届政府推动科技创新不遗余力，惟相关法例规管却未见成果。鉴于AI技术广泛应用是未来大趋势，政府须打破“立法比科技发展迟”的固态，未雨绸缪。目前外国AI的法规已成形，香港有需要“追落后”。考虑到条例具强制性，以及AI技术已逐渐渗透到日常生活中，笔者认为政府制订AI技术法规时必须谨慎，比如确定哪些行业确实需要被纳入法律中，如何界定是否违法，以及在保障安全的前提下，不能影响技术的研发和推进，在应对AI技术风险和有效保护权利之间实现平衡。

成立专责部门管理AI技术应用

笔者建议在创科局成立一个新部门，专责审查企业新研发的AI技术，及向合资格者派发许可证，并鼓励各企业须按照指导原则使用AI技术，以确保其安全发展。另建议邀请科创专家、企业等多方共同制订统一的AI技术安全标准，以评估AI技术的能力，如数据保护及分析方面的能力。假如发现不符合政府标准的AI技术模型，便可撤销其许可证，确保企业妥善利用AI科技，同时，该部门亦要定时检讨更新规范的内容，配合业界最新发展。

AI技术不断革新是人类科学的成就，其对人类社会的贡献是无可置疑，但社会的担忧亦不无道理。事实上，AI技术已经无声无息地影响我们的生活，未来取代人类大部分工作已是“现在进行式”，我们必须居安思危，及早制订监管AI技术的法例，让AI技术成为人类社会不断进步的“好帮手”。

作者骆俊伟是立法会A4联盟研究部研究员。文章的内容仅代表作者个人观点，不代表香港01立场。

“01观点”欢迎投稿，来函请电邮至01view@hk01.com。来稿请附上作者真实姓名及联络方法。若不适用，恕不另行通知。