AI 的阴暗面：揭露新兴的互联网安全威胁｜苏仲成
最近，香港在应对由人工智能引发的资料隐私问题方面迈出了重要一步。个人资料私隐专员公署（PCPD）签署了一份全球指导声明，旨在解决与人工智能相关的风险，特别是针对资料抓取问题。此举是国际合作努力的一部分，认识到人工智能迅速发展带来的共同挑战。
文：Michael C.S. So（岭南大学研究生院客席助理教授）
随着对人工智能系统如何收集和处理资料的担忧日益增加，这次私隐监管机构的参与变得尤为重要。资料抓取是一种用来从多个来源收集大量个人信息的技术，已经引起了对潜在隐私侵犯的担忧。人工智能自动化这一过程的能力进一步复杂化了监管环境，因为传统的资料保护框架难以跟上生成式人工智能技术带来的新动态。
通过与其他全球私隐机构合作，香港致力于创建一套指导人工智能开发者和组织负责任地处理资料的原则。这份指导声明强调了透明性、问责制以及人工智能技术的伦理使用。对于像香港这样快速发展的科技城市来说，这一主动步骤是迈向创建更安全的数字环境的关键举措。
这份国际指导声明不仅针对资料抓取的直接问题，也表明了保护在人工智能主导的未来中隐私权的更广泛承诺。这种合作方式是一个积极的例子，展示了地区如何共同努力来减轻人工智能相关风险，分享最佳实践，并制定统一的框架来保护市民的资料权利。
人工智能（AI）正在重塑许多行业，从医疗保健到零售业，带来了十年前难以想像的效率。然而，在这些进步的阴影下，人工智能也正在催生出大量复杂的互联网攻击。作为互联网安全领域的研究人员和教育者，我认为提高对人工智能对我们数字生态系统所构成威胁的认识，以及如何应对这些威胁，是至关重要的。
人工智能在互联网安全中的威胁有多么严重。让我们来深入了解一下，人工智能如何从原本用于防御系统的工具，逐渐变成了用来利用漏洞并威胁全球数字安全的手段。
从蠕虫到生成对抗者：互联网威胁的演变
如果我们回到 1980 年代，当时首次出现了互联网攻击，像特洛伊木马这样的病毒相对简单而直接。在那个时候，黑客需要深厚的技术知识来制作恶意程式。随着 1990 年代互联网的到来，病毒和蠕虫迅速扩散，利用了我们新连线世界的漏洞。这些威胁促使了防病毒软件和互联网安全协议（如 SSL）的兴起，为数十年来攻击者和防御者之间的斗争奠定了基础。
快速前进到今天，人工智能和机器学习（ML）已经使互联网攻击的复杂性呈指数级增长。这些技术已不仅仅是工具；它们已成为自动化攻击的基本组成部分，甚至使经验不足的攻击者也能够造成巨大伤害。随着人工智能的应用，复杂的互联网攻击变得具有可扩充套件性、自动化，且更难检测。曾经的小规模、手动黑客攻击现在已经变成了利用漏洞进行的人工智能驱动的操作，并具有智慧机器的精确度。
人工智能在互联网攻击中的应用场景
报告中的一个重要见解是，人工智能不仅仅是一种工具；它正在改变互联网攻击在所有阶段的进行方式——从侦察到资料窃取。考虑一下人工智能驱动的侦察工具的兴起，这些机器人以惊人的速度扫描互联网，筛选出海量资料，寻找漏洞。这些工具通常被攻击者用来收集潜在目标的信息——曾经需要数小时手动完成的任务现在只需几分钟即可完成。
另一个值得关注的方面是密码破解，人工智能驱动的工具如 PassGAN 被用来绕过曾经被认为坚固的安全措施。PassGAN 使用生成对抗互联网（GAN）来有效预测密码组合。这种自动化意味着密码安全不再仅仅关乎长度或复杂性——而是需要领先于能够不知疲倦并快速猜测潜在密码组合的人工智能。
或许更令人不安的是人工智能驱动的社会工程攻击的崛起。人工智能演算法被用来分析大量资料，以制作看起来几乎令人毛骨悚然真实的钓鱼邮件或语音信息。通过使用只有人工智能能够实现的精确度来个性化消息，攻击者可以增加其社会工程活动的成功率，欺骗受害者泄露敏感信息。
经济影响：当人工智能与互联网犯罪联手
人工智能驱动的互联网攻击的经济影响不容低估。根据 IBM 的报告，2023 工龄料泄露的平均成本上升到 445 万美元，创下历史新高。随着人工智能在互联网攻击中的作用越来越大，我们应预期这些数字将继续上升。经济损失不仅限于直接损害——还包括监管罚款、法律费用，以及修复声誉和加强系统所需的巨大投资。
此外，人工智能使攻击者能够在全球范围内针对漏洞进行攻击。这意味着，传统的攻击可能针对一两家组织，而人工智能驱动的攻击可以同时扫描并攻击数百家组织。这种自动化和可扩充套件性只会加剧经济影响，特别是对那些通常缺乏强大互联网安全防御的小型企业来说。
人工智能在防御中的角色：保持领先一步
面对这些威胁，自然而然的问题是：我们如何在这个人工智能驱动的攻击时代中保护自己？答案部分在于利用人工智能进行防御，以及制定多层次的安全策略。
现代的互联网安全框架越来越多地融入人工智能驱动的早期威胁检测工具。例如 ManageEngine 的 Log360 现在整合了机器学习功能，用于在威胁升级为全面攻击之前识别妥协指标（IoC）。这些工具分析系统行为、识别异常，并提供早期警报——这些功能对于缩短响应时间至关重要。
然而，检测只是开始。缓解策略也必须进化。自动化事件响应措施的能力，例如隔离受感染的系统或即时阻止可疑活动，变得至关重要。人工智能可以防御性地用于管理这些响应，允许组织更快速地做出反应并限制损害。
此外，合规仍然是防御的关键一环。全球各地的政府正积极推进资料保护法规，例如《通用资料保护条例》（GDPR）和《加利福尼亚消费者隐私法》（CCPA）。确保符合这些标准不仅有助于防止资料泄露，还能减轻事件发生时的经济后果。
香港的应对措施：全球努力减轻人工智能驱动的资料威胁
最近，香港在应对由人工智能引发的资料隐私问题方面迈出了重要一步。个人资料私隐专员公署（PCPD）签署了一份全球指导声明，旨在解决与人工智能相关的风险，特别是针对资料抓取问题。此举是国际合作努力的一部分，认识到人工智能迅速发展带来的共同挑战。
随着对人工智能系统如何收集和处理资料的担忧日益增加，这次私隐监管机构的参与变得尤为重要。资料抓取是一种用来从多个来源收集大量个人信息的技术，已经引起了对潜在隐私侵犯的担忧。人工智能自动化这一过程的能力进一步复杂化了监管环境，因为传统的资料保护框架难以跟上生成式人工智能技术带来的新动态。
通过与其他全球私隐机构合作，香港致力于创建一套指导人工智能开发者和组织负责任地处理资料的原则。这份指导声明强调了透明性、问责制以及人工智能技术的伦理使用。对于像香港这样快速发展的科技城市来说，这一主动步骤是迈向创建更安全的数字环境的关键举措。
这份国际指导声明不仅针对资料抓取的直接问题，也表明了保护在人工智能主导的未来中隐私权的更广泛承诺。这种合作方式是一个积极的例子，展示了地区如何共同努力来减轻人工智能相关风险，分享最佳实践，并制定统一的框架来保护市民的资料权利。
未来：人工智能驱动的互联网战场会带来什么？
在我看来，我们正在进入一个前所未有的数字威胁时代，传统的互联网安全边界已不再适用。人工智能不仅扩充套件了攻击的范围，还被用来创新新的恶意软件形式。人工智能生成的恶意网站，利用搜寻引擎最佳化（SEO）技术来吸引使用者，是这一威胁的最新演变。这些技术，加上复杂的内容生成能力，使得个人甚至经验丰富的 IT 团队也难以分辨合法和恶意网站。
值得一提的是，生成式人工智能在制作钓鱼计划和恶意软件程式码方面的应用。即使像 ChatGPT 这样的流行人工智能模型旨在拒绝不道德的请求，互联网犯罪分子也能通过巧妙地操作提示，诱使这些系统提供详细的步骤指南。未来，人工智能可能同时用于互联网冲突的两边——一方开发更强大的防御，另一方则演变出更新、更巧妙的威胁。
然而，在阴霾之中仍有一丝乐观的光芒。人工智能也可以成为我们在这场互联网军备竞赛中的盟友。通过利用人工智能进行行为分析、自动化事件响应和预测性威胁检测，我们可以努力保持领先于攻击者的步伐。这需要持续投资于互联网安全基础设施、研究，以及至关重要的教育。培训下一代互联网安全专业人员理解人工智能，无论是作为防御工具还是攻击武器，这对于使天平向防御者倾斜至关重要。
结论：前方的道路
我们生活在一个人工智能双重性比以往任何时候都更加明显的时代。它可以成为一股强大的积极力量，推动创新和突破。但在那些试图利用漏洞的对手手中，它同样强大。作为教育者、研究人员和技术专家，我们有责任为这个硬币的两面做好准备。
结合教育、政策制定和技术进步的主动方法将至关重要。公众对钓鱼攻击的认识、对未知连结的谨慎审查、遵守互联网安全协议，最重要的是，使用人工智能进行持续监控和响应，是组织和个人可以采取的关键措施。
让我们不要因威胁而气馁，而是因创新和保护我们的数字环境的机会而受到激励。通过集体努力——结合监管支持、技术创新和教育——我们可以扭转人工智能驱动的互联网攻击带来的威胁，或许甚至使人工智能成为我们在争取数字安全中的最强大资产。