网络犯罪的 AI 阶段正在加速
生成式 AI 不再只是改变生产力软件和面向消费者的工具。它也在重塑线上欺诈和网络犯罪。MIT Technology Review 在 4 月 24 日出版的 The Download 中指出了一个核心趋势：AI 驱动的诈骗正在扩张，而各组织正难以跟上攻击的规模与速度。
该出版物将这一转变追溯到 2022 年末 ChatGPT 的发布，当时大语言模型让生成看似可信、接近人类表达的文本变得非常容易。网络犯罪分子很快意识到其中的价值。根据所提供的文本，他们开始使用 LLM 撰写恶意邮件，随后又扩展到加速版钓鱼攻击、超逼真的深度伪造以及自动化漏洞扫描。
真正重要的是这一演进方向。AI 正在降低攻击制作成本，同时提升数量和迷惑性。这种组合改变了几乎所有拥有公开数字足迹的组织的安全方程式。
为什么问题正在恶化
MIT Technology Review 的表述非常直接：AI 正让攻击变得更快、更便宜，也更容易实施。文章还指出，许多组织正努力应对网络攻击的庞大数量，而且随着更多犯罪分子采用这些工具、工具本身也在进步，问题很可能进一步恶化。
这是一种结构性警告，而不是一次性的轶事。传统网络安全防御往往依赖摩擦、可检测性以及攻击者成本的某种组合。生成式 AI 削弱了这三者。它让坏人能够生成更精致的文本，以更高可信度模仿声音或图像，并自动化那些过去需要更多时间或技能的研究和扫描任务。
结果不只是更好的钓鱼攻击，而是工业化的定向攻击。
从恶意邮件到合成式说服
犯罪分子使用 AI 的第一波明显应用是文本生成。过去，钓鱼邮件常常会因为语法糟糕、措辞别扭或风格不一致而露出破绽；这一门槛如今已经被削弱。大语言模型让生成语气连贯、具备上下文意识、并且能针对目标定制的邮件变得更容易。
但所提供的报告清楚表明，这一领域已经不止于邮件撰写。超逼真的深度伪造把欺诈延伸到语音、视频和身份模拟。自动化漏洞扫描则增加了技术层面，帮助攻击者以更快速度探测系统。这些并非孤立手段。结合使用时，它们可以支撑更大规模的行动，把社会工程与机会性系统利用结合起来。
正是这种汇合让当前时刻与以往不同。AI 不只是攻击者工具箱中的一种新工具；它正越来越成为帮助欺诈运作实现规模化的连接层。
为什么组织承受着压力
防御方面临的挑战不只是技术复杂性，而是规模。如今，一个能力中等的攻击者可以生成比以往多得多的定制消息、变体和测试样本。这会制造噪音，提高成功命中的概率，并迫使防御者花更多时间进行分拣和研判。
MIT Technology Review 警告称组织正难以应对庞大的攻击数量，这反映出许多安全团队已经感受到的变化。即使单个诈骗并不特别高级，许多 AI 辅助尝试叠加后的累积效应，也足以压垮员工和系统。
当欺骗跨越多个渠道时，这种情况尤其明显。如果电子邮件、音频和视频都可以被低成本合成或改写，验证工作就会更耗费人力。那些曾经依赖语气、写作风格或熟悉面孔来建立信任的流程，变得不再可靠。
这则警告更大的意义
该出版物把“超级增强型诈骗”列为当下 AI 领域最重要的 10 件事之一。这种编辑框架很重要，因为它把犯罪滥用与主流模型开发和商业部署并列为该领域当前阶段的定义性特征。
换句话说，AI 风险并不是 AI 热潮之外的附带话题，它本身就是这场热潮的一部分。
所提供的文本没有给出具体的政策修复方案或防御蓝图。但它确实支持一个强有力的结论：生成式 AI 的安全影响已经不再是假设，而随着能力扩散，攻击面正在扩大。
这对下一阶段 AI 采用意味着什么
随着 AI 系统变得更便宜，并更深地嵌入日常软件之中，犯罪分子的学习曲线很可能进一步变平。那些最初作为通用生产力系统出现的工具，仍然可以被重新利用、改造或仿制，用于恶意用途。每一次在真实感、速度和可及性上的提升，都会同时影响合法和非法行为者。
这并不意味着每一个新的 AI 功能都会以线性方式增加网络犯罪。但所提供的报道清楚表明，发起具有说服力的诈骗的门槛已经下降。现在更重要的问题不是犯罪分子会不会使用 AI，而是防御措施能否多快适应这种已成常态的 AI 辅助欺骗。
这是一则安全故事，而不只是 AI 故事
在 AI 报道中，人们往往倾向于关注前沿模型、竞争性发布和产品上线。MIT Technology Review 对诈骗问题的强调提醒我们，AI 最直接的社会影响可能首先通过滥用而非创新叙事到来。
这使它既是治理问题，也是运营问题，同时还是技术问题。那些只把 AI 视为内部生产力工具的组织，可能会忽略更紧迫的现实：对手正在采用同类工具，以更高效率发起攻击。
因此，这篇文章的核心警告直接而可信。AI 已经改变了网络犯罪的经济模型。诈骗更易扩展，输出更具迷惑性，而防御方的负担也更重。即便底层模型继续演进，这一点也很可能仍然成立。
本文基于 MIT Technology Review 的报道。阅读原文。
Originally published on technologyreview.com