GPT-4 可打造恶意软件为非作歹　AI的出现会增加网络犯罪率？

OpenAI近日发表了全新神经网络GPT-4，这个拥有优秀推理能力的聊天机器人，能够如何应用、发挥更强大的价值，毫无疑问是许多人所关注的焦点。然而在AI推动世界进步的同时，有研究人员指出，他们成功诱导GPT-4协助开发恶意软件、开发钓鱼电子邮件。

▼▼▼ 可诱导GPT-4打造恶意软件有可能降低网络攻击门槛？▼▼▼

GPT-4也能被用于为非作歹？

根据《富比士》报导，网络安全公司Check Point的研究人员表示，他们透过避免在对话中使用“恶意软件”一词，就成功让GPT-4帮助他们打造恶意软件，绕过OpenAI对这些犯罪行为的封锁。

OpenAI在发布GPT-4时，强调的一大特点便是安全性，并能确保这项技术不被网络犯罪使用。但看起来道高一尺魔高一丈，在研究人员的测试中，GPT-4能够用C++为恶意软件编写程式，该恶意软件可以收集PDF档案并传输到远端的伺服器。值得一提的是，GPT-4还向他们提供建议，如何让恶意软件在Windows 10上运行、缩减档案大小，并且降低被防毒软件发现的可能性。

“GPT-4可以帮助恶意人士——甚至是非技术背景的人——加速并实现他们的预谋。”最终Check Point在报告中表示，“我们看到的是，GPT-4可以用在正反用途上，良善的使用者会利用GPT-4打造各种有助于社会的程式，而恶意使用者则会利用人工智慧快速进行网络犯罪。”

黑帽大会审议委员会成员丹尼尔．卡斯伯特（Daniel Cuthbert）指出，GPT-4可以帮助没有充足技术知识的人打造恶意工具，让网络犯罪变得轻而易举，大大降低其门槛。

不会写程式也能做钓鱼信件，GPT-4可能降低网络攻击门槛？

Check Point过去也曾追踪过ChatGPT被用于网络犯罪的情况，去年12月就发现有网络犯罪份子利用ChatGPT撰写能用于恶意攻击的Python脚本。即使发布者没有任何开发背景，这个由聊天机器人辅助打造的恶意软件大致上是正确的，只有少部份的程式码错误。

另一间网络安全公司Blackberry也透露，他们针对1,500名资讯技术专家的调查中，多达74%的人都担忧ChatGPT可能助长网络犯罪。同时还有71%的人担心，这项技术可能会被国家政府利用，来对其他国家展开网络攻击。

Check Point威胁行为团队经理谢尔盖．舒克维奇（Sergey Shykevich）表示，利用GPT-4生成网络钓鱼信件或恶意软件程式码的难度，比以前的版本要来得更低。可能是因为目前仅开放给ChatGPT Plus的付费用户有限使用，才没有立刻遭到有心人士滥用。

事实上，OpenAI发布GPT-4时也打了“预防针”，一并发布的论文中就坦承，GPT-4可能会降低进行网络攻击的成本，声称事前找来资安专家测试时发现在网络安全相关操作上有“重大缺陷”，但也强调他们已透过训练模型、增加内部监控及检测等方式加强围堵。

不过，GPT-4打造的钓鱼信件及恶意软件并不特别，专家认为现代的检测系统都能辨识出这些恶意软件，且就如水能载舟亦能覆舟，GPT-4充其量只是工具，结果的好与坏仍端看使用者如何利用这项技术，GPT-4同样存在著用于教育、管理资料、辨识诈欺等种种面向上巨大的可能性。

延伸阅读：ChatGPT进化成GPT-4有何特别？怎样才能免费用？一文搞清8大疑问

延伸阅读：

GPT-4为何不开源？OpenAI联合创办人：当AI变得太强大，开源毫无意义

【观点】ChatGPT可以帮黑客写攻击程式？“黑客”教你怎么用AI来防御

【本文获“数位时代”授权转载。】