未来几年，人工智能将在网络威胁与公司应对此类威胁的策略中扮演核心角色。以下是在处理这些新兴威胁以及决策如何将人工智能整合到网络安全运营中时需要关注的关键趋势。

人工智能显著加速了网络威胁环境的变化节奏。它大幅降低了全球网络犯罪分子的入门门槛，包括广泛应用的强大社交工程工具，如大型语言模型（LLM）和深度伪造，以及人工智能驱动的监控和数据分析。与此相应，企业正越来越多地依赖人工智能来强化其网络防御，通过漏洞评估、补救措施和自动化安全任务。

趋势一：人工智能将推动新一波社会工程攻击

LLM和深度伪造的引入将使社会工程攻击更为有效。根据《2024年数据泄露调查报告》，68%的泄露事件涉及人为因素。网络犯罪分子利用其AI武器库，通过欺骗和操纵员工渗透网络、窃取敏感信息及资金。

网络犯罪分子正在使用LLM生成高度个性化且极具说服力的网络钓鱼信息，使得受害者更易上当。谷歌警告称，AI武器库可能被用于网络钓鱼、短信等社会工程操作。同时，微软已观测到全球主要网络犯罪组织广泛采用LLM。

此外，网络犯罪分子还利用深度伪造发起复杂多层次网络攻击，如受害者接收网络钓鱼信息后，可能会与深度伪造的对话者通话。

趋势二：人工智能将迫使企业重新评估网络安全流程

尽管人工智能为企业提供了广泛的网络安全工具，但技术的迅速发展引发了人工智能军备竞赛，随着防御能力的提升，入侵方法也在持续进化。这要求首席信息安全官及其他安全领导者重新审视几种主要的网络安全机制。

例如，深度伪造可能使生物特征身份验证变得无效，研究预测到2026年，30%的企业将不再视这些“身份验证解决方案”为可靠。企业正在建立支持AI的“身份威胁检测和响应”工具，如基于内容、发件人凭证和电子邮件标头信息分析消息的网络钓鱼防御。然而，网络犯罪分子利用LLM及其他AI工具开发变通方法，网络钓鱼仍是最常见的初始攻击媒介。

预计到2025年，人工智能将要求企业在其应用和数据安全方面的支出至少增加15%。这一需求与其他研究相符，普华永道的报告指出，79%的高管计划在2024年增加网络安全支出，较2023年的64%有所增长。首席信息安全官及其他安全领导者需确定如何高效地进行这些投资。

趋势三：人工智能对供应链网络安全的影响

供应链泄露是破坏性网络攻击之一，SolarWinds黑客攻击便是其中的典型案例。该事件揭示了第三方应用程序获取凭证和/或访问途径可能是最有可能的攻击媒介。Verizon的数据显示，2023年至2024年间，涉及泄露的“供应链互连”数量增加了68%。

预计到2025年，全球45%的组织将遭受针对其软件供应链的网络攻击，这一数字比2021年增加了三倍。供应链网络攻击的新时代已经来临。IBM报告称，2023年27%的违规行为可归因于对软件或业务合作伙伴供应链的攻击。

企业可利用人工智能进行模拟，检测欺诈和恶意网络活动，并在发生违规时缩短响应时间。然而，人工智能也允许网络犯罪分子探测供应链中的潜在薄弱环节，并发起社会工程攻击，立足于关键接入点。这强调了在整个供应链中实施正确安全协议的重要性，包括AI识别和响应系统及高质量网络安全意识培训。

趋势四：人工智能时代下的全面网络安全

在社交工程成为大多数网络攻击首选策略的时代，安全领导者必须确保在企业的各个层面培养网络安全文化，并为员工提供所需资源以保护组织。IBM指出，员工培训是数据泄露总体成本中最重要的缓解因素之一，其效用超过保险、加密、人工智能驱动的洞察力及其他资源。

人工智能和网络安全培训应相互补充。预计到2028年，威胁检测和事件响应中的多智能体人工智能占比将从5%上升至70%，主要用于增强员工能力，而非替代员工。网络安全意识培训必须适应人工智能时代的需求，不仅限于识别复杂的LLM生成的网络钓鱼信息和深度伪造，还需利用人工智能生成预测行为档案，针对员工的特定弱点提供定制干预措施，并在员工不再完全信任自己的直觉时赋予其阻止网络攻击的能力。

企业必须优先投资于人工智能增强员工队伍，而不仅仅是任务自动化。为应对生成式人工智能带来的短期支出增加和长期技能需求变化做好准备。

鉴于近90%的组织仍在研究或试用生成式人工智能，预测哪些技术和应用会随市场周期消退或持续存在具有挑战性。然而，企业可通过制定全面的网络安全战略来应对未来的各种情况，该战略既能利用人工智能的力量，又能使员工准备好抵御技术快速演变带来的威胁。