“攻击者并不需要做到99.9999%的准确率，但防御者必须做到。” —— Ethan Seow 生成式AI（GenAI）迅速成为企业技术界最热议的创新话题，但它在网络安全领域的整合已经显示出高度复杂且发展不均衡的局面。在2025年“数字领导力网络研讨会峰会”上，Practical Cyber与Cyber Intel Training的CEO Ethan Seow发表主旨演讲时指出：每一个强大的GenAI用例背后，都有同等甚至更大的风险被攻击者所利用。 Ethan曾于2023年被ISC2评为亚太地区网络安全新星（APAC Rising Star），他拥有精神病学背景，后转型进入网络安全教育和创业领域，在新加坡、马来西亚和美国与数百位学员及全球专家合作，视角独特、跨学科背景明显。 在演讲中，他直言不讳地指出：组织不仅对GenAI驱动的威胁准备不足，甚至在未理解相关风险的情况下就开始部署这些工具。 亮点攻击者的完美工具，防御者的脆弱武器网络安全人才的大地震GenAI整合：尚未成熟，且存在安全隐患软件开发提速，安全成熟度却落后数字领导者现在必须采取的行动 https://open.spotify.com/episode/0VW352n8rRN75EnlZjP5Xv?si=N4_26mHSTPucvEi4D0SS0g 攻击者的完美工具，防御者的脆弱武器 Ethan首先重新定义了GenAI在真实世界攻击中的使用方式。随着像LLaMA、DeepSeek等开源模型可轻松下载和修改，攻击者正快速将GenAI整合进恶意软件开发和社交工程攻击中。一个令人震惊的趋势是：某些恶意软件在攻击过程中，会调用ChatGPT或Claude来实时生成新的恶意代码版本。 社交工程手法也在演变。如今的钓鱼邮件不再充斥语法错误或千篇一律的措辞，而是由GenAI生成的、具备上下文逻辑且高度定制化的信息，难以识别。根据Perception Point发布的《2024年度报告》，自2022年以来，社交工程攻击增长了1760%。Ethan引用这一数据，强调对手的演化速度远超预期。 Social engineering attacks rose 1,760% since 2022 as GenAI capabilities spread “在这样的环境中，做攻击者比做防御者更容易，”Ethan解释道。“攻击者可以反复试错，但防御者没有这种奢侈。” 网络安全人才的大地震 GenAI带来的另一个意外后果是网络安全岗位的流失。微软等大型企业已经裁撤了大量网络安全团队岗位，寄希望于GenAI取代某些功能。但Ethan认为这种做法过于短视。 “在我们尚未解决网络安全人才短缺的背景下，GenAI正在优先替代入门级岗位。”他说，“这意味着越来越少的人能够积累基础经验，未来网络安全专家的人才池正在萎缩。” 更令人担忧的是，许多网络安全专业人士仍不熟悉大型语言模型（LLM）的工作原理。即便是技术团队，GenAI素养依然偏低，加之被取代的恐惧，进一步抑制了技能提升。Ethan呼吁组织应将GenAI视为需要深度再教育的能力，而非追求效率的捷径。 GenAI整合：尚未成熟，且存在安全隐患 尽管前景广阔，Ethan警告称，大多数企业尚未为大规模整合GenAI做好准备。他援引兰德公司（RAND Corporation）的研究指出，AI项目失败的五大原因包括：问题定义错误、数据质量差、基础设施薄弱、技术尚不成熟，以及期望值过高。 他特别提到，如果GenAI工具（尤其是聊天机器人）部署不当，容易遭遇提示注入（prompt injection）攻击，导致数据泄露或未授权访问。 Ethan还引用了Gartner报告中的观点：企业不应把GenAI当作“万灵药”。缺乏明确用例和安全机制的集成，不但无助于发展，反而可能带来更多风险。 Most GenAI projects fail due to immaturity in data, infrastructure, and expectations 软件开发提速，安全成熟度却落后…
Let’s Stay Connected
Join thousands of readers who already enjoy exclusive content—sign up today. It’s currently free!
