中国杭州的一家身份不明的公司最近成为使用 ChatGPT 实施勒索软件攻击的受害者，导致该国首次涉及人工智能聊天机器人的逮捕事件。

中国当局透露，四名网络犯罪分子上个月末被拘留，其中两人在北京，两人在内蒙古。

犯罪嫌疑人承认利用 ChatGPT 优化勒索软件代码、进行网络扫描、渗透系统、部署恶意软件并勒索资金。

这次攻击本身导致该公司的网络被勒索软件封锁，犯罪分子要求支付 20,000 Tether 加密货币才能恢复访问。

勒索软件的使用量呈上升趋势

勒索软件已迅速成为全球政府、企业和个人面临的最严重的网络威胁之一。

该恶意软件会对文件和系统进行加密，使它们无法访问，直到满足赎金要求为止。

2021 年，全球勒索软件造成的损失预计将达到 200 亿美元。仅在中国，当年的攻击就增加了 13%，网络犯罪分子勒索的款项超过 16 亿美元。

此次逮捕标志着 ChatGPT 首次卷入中国勒索软件案件。

然而，聊天机器人本身可能没有直接参与攻击。

相反，被告承认使用 ChatGPT 的自然语言功能来优化其恶意软件代码。

人工智能的对话性质使得通过提供反馈和建议来改进勒索软件程序变得简单。

ChatGPT 在中国的访问受到限制

尽管 ChatGPT 在全球范围内非常受欢迎，但在中国却面临着限制。

其开发商 OpenAI 已阻止中国大陆 IP 地址访问该聊天机器人。

一些用户使用在中国境外注册的 VPN 来绕过限制。

然而，提供此类服务的公司面临的法律风险尚不清楚。

当局警告说，如果 ChatGPT 广泛使用，它可能会“犯罪和散布谣言”。

但人们对人工智能的兴趣仍然很高，科技公司竞相开发 OpenAI 突破性产品的竞争对手。

生成式人工智能还可以实现令人信服的深度造假，中国警方在今年夏天的一次贷款诈骗打击行动中就遇到了这种情况。

由于该技术的危害显而易见，全球监管机构正在评估如何最好地应对。

对人工智能编写的恶意软件的担忧

ChatGPT 因其对话语气和对大多数话题的雄辩、类似人类的反应而闻名。

但其先进的语言技能也使其对于优化恶意软件等恶意用途非常有效。

网络安全研究人员揭露了 ChatGPT 生成虚假网络钓鱼页面、恶意计算机代码和其他威胁是多么简单。

通过简单的提示，人工智能就会生成专门用于逃避检测的复杂勒索软件。

像 ChatGPT 这样的聊天机器人永远不会忘记他们所学到的东西。

积累的知识进一步增强了他们编写恶意软件、黑客系统和欺骗目标的技能。

人工智能的生成性带来了更广泛的风险

除了软件漏洞之外，人工智能聊天机器人还会带来错误信息带来的风险。

他们令人信服的类人写作可能会充斥着看似可信的虚假材料，充斥社交网络和网站。

生成式人工智能同样可以创建深度伪造的音频/视频媒体和克隆声音以用于欺诈目的。

随着技术的进步，冒充诈骗和虚假名人媒体构成了重大威胁。

此外，围绕人工智能训练数据集和所有权的法律和道德问题仍然存在。

像 ChatGPT 这样的系统会在未经同意的情况下获取大量受版权保护的书籍、文章、歌曲、图像和其他内容。

随着生成式人工智能的能力呈指数级增长，其在坏人手中造成危害的可能性也在不断增加。

但谨慎的监管和网络安全警惕有助于减轻新出现的威胁

热点：勒索