人工智能与网络安全邮件威胁
关键要点
当前，网络安全行业面临因人工智能AI和机器学习ML导致的显著安全漏洞，尤其体现在电子邮件安全方面。威胁行为者利用AI技术创建高级的钓鱼攻击，快速增加恶意邮件的成功比例。员工在电子邮件安全中的作用至关重要，通过安全意识培训SAT，可以大幅度提升防御能力。网络安全行业一直强调存在多种不同的可见性、防御技术和政策“缺口”。随着技术的不断进步，我们现在看到由于人工智能和机器学习而导致的显著安全漏洞。
威胁行为者使用和开发新的AI驱动威胁策略，专注于通过高级钓鱼攻击获得组织的访问权限。这一点显而易见，因为恶意电子邮件绕过安全电子邮件网关SEG的现象急剧上升。根据我们过去一年的研究，恶意电子邮件成功抵达终端用户邮箱的比例增长了惊人的104。我们当前面临的这些缺口明显表明，电子邮件安全需要更加强大且多方面的方法。
关于SC Media观点专栏： SC Media的网络安全专家社群撰写的专栏内容，致力于提供关于网络安全的独特看法。点击此处阅读更多观点。
今年早些时候，FBI发出警告，指出网络犯罪分子利用AI构建愚弄性的网络活动的威胁在不断增加。通过利用AI，威胁行为者能迅速创建大量高度欺骗性的钓鱼活动，甚至能够绕过最流行的SEG，如Microsoft和Proofpoint。AI驱动的钓鱼攻击变得更加难以检测，原因包括：
特点描述超个性化AI分析来自社交媒体和其他来源的海量数据，以模仿朋友、同事和组织的写作风格和语言。最佳时机AI算法分析行为模式，以确定发送钓鱼邮件的最佳时机。可扩展性和适应性基于AI的自动化技术让威胁行为者能够在短时间内生成大量钓鱼邮件。钓鱼邮件质量提升AI提升了钓鱼邮件的表面质量，使其与合法通信难以区分。在网络安全的攻防博弈中，防御者与攻击者之间的较量是一个持续的挑战。尽管基于AI的防御手段带来了进步，但通常难以跟上威胁策略的快速演变。这一点在电子邮件安全领域尤其明显，因为AI驱动的攻击者能够获得创新的速度远超防守AI模型的适应能力。
与基于规则的SEG相比，基于模型的SEG采用学习算法识别模式并阻止恶意邮件，为电子邮件安全提供了更先进的解决方案。基于模型的SEG能够学习新威胁并相应调整其防御。
一元机场推荐然而，由于机器学习模型固有的局限性，需要持续的监督训练数据来识别新出现的威胁，因此没有任何模型能够学习它所未经历的情况。与此同时，威胁行为者利用AI可以更快地创新，使得防御的AI SEG始终处于追赶状态。
AI电子邮件安全缺口的加剧，正是由于AI训练模型的内在限制。这些模型处于追逐状态，因依赖过去的分类数据和定期重训练而难以识别最新威胁。威胁行为者的快速创新超出许多AI模型实时检测新威胁的能力，这一差距给寻求防止日益复杂的电子邮件威胁的组织带来了重大挑战。
员工在电子邮件安全中的角色
为了有效抵御AI增强的钓鱼活动，组织必须采用多方面的方法，结合防御AI与人类智能。通过用人类报告的攻击训练AI/ML模型，组织能够为其防御AI赋予来自目击者的宝贵见解。
通过安全意识培训SAT来发挥员工的力量，可以缩小模型基于SEG方法留下的缺口。组织需要
