随着人工智能迅速改变网络安全格局，它既带来了前所未有的机遇，也带来了令人震惊的威胁。从人工智能驱动的防御对抗人工智能增强型攻击，到深度造假、自主僵尸网络和负责任的人工智能标准的兴起，专家们对 2025 年的情况进行了权衡。
人工智能的双重角色及其对企业的影响
Matt Aldridge，OpenText 首席解决方案顾问
“在网络安全军备竞赛中，防御者不断努力跟上攻击者及其最新技术的步伐。到 2025 年，这场猫捉老鼠的游戏将继续下去，人工智能增强的攻击将越来越多地对抗人工智能驱动的防御。防御者必须了解其解决方案的人工智能功能和局限性，从而提高检测和响应攻击的敏捷性和速度。”
Javvad Malik，KnowBe4 首席安全意识倡导者
“组织将越来越多地使用人工智能来自动化和增强异常检测和预测威胁建模等措施。但同样的工具将使网络犯罪分子能够执行更多的欺骗性攻击，因此需要不断创新才能保持领先地位。”
Christian Borst，Vectra AI 欧洲、中东和非洲首席技术官
“随着人工智能的进步为网络犯罪分子提供了更快、更有针对性的攻击工具，组织必须付出巨大的努力来保持弹性。就像红皇后的比赛一样 透过镜子，原地踏步是不行的，不适应就会落后。”
Elia Zaitsev，CrowdStrike 首席技术官
“人工智能正在公有云和私有云中快速变革和发展。随着攻击者越来越多地瞄准人工智能服务和大型语言模型（LLM），保护这些系统的完整性和性能比以往任何时候都更加重要。”
Matt Wiseman，OPSWAT 产品营销总监
“人工智能的传播使技术水平较低的攻击者能够改进网络钓鱼和社会工程策略。组织在防御性采用方面往往落后，因此需要重新考虑网络安全策略以保持优势。”
法学硕士和代理人工智能：新的攻击面？
Pedram Amini，OPSWAT 首席科学家
“威胁仍在不断演变，针对物理设备的民族国家和机器学习驱动的诈骗变得更加复杂。组织必须为人工智能增强的社会工程做好准备，并考虑即将出现的生产级零日漏洞和完全自主的恶意软件。”
John Hammond，Huntress 首席安全研究员
“法学硕士将成为不受保护的攻击面。随着组织急于将人工智能集成到其产品中，安全性已被搁置。及时的工程和对抗技术可能会暴露敏感信息或训练数据，从而产生新的漏洞。”
Sohrob Kazerounian，Vectra AI 杰出人工智能研究员
“随着 GenAI 炒作的消退，焦点将转向专为审查和可靠性而设计的代理人工智能模型。这些专业代理协作以提高准确性并维护清晰的、目标驱动的功能。威胁行为者已经在尝试使用恶意人工智能代理进行自主攻击，尽管这些仍然容易出错。”
Stephen McDermid，Okta 欧洲、中东和非洲地区首席执行官
“到 2025 年，人工智能代理将占据主导地位，Gartner 预测，到 2028 年，人工智能代理将处理 15% 的日常工作决策。针对人工智能代理提供商的攻击将会增加，要求企业将网络安全嵌入到第三方评估中。”
Ev Kontsevoy，Teleport 首席执行官
“2025 年将标志着网络安全专业人士的‘人工智能大觉醒’，因为他们发现人工智能代理是多么容易被操纵造成伤害。这种认识将减缓人工智能的部署，同时安全团队也会改进模型以解决漏洞。”
Daniel Rapp，Proofpoint 首席人工智能和数据官
“威胁行为者可能会开始污染私人数据源（电子邮件、SaaS 存储库）以操纵人工智能行为。保护这些载体对于防止人工智能被诱骗做出有害行为至关重要。”
Len Noe，白帽黑客和威胁传播者，CyberArk
“法学硕士将成为新的高级持续威胁（APT）。虽然它们对于解决问题非常有价值，但它们非常容易被越狱和迅速黑客攻击，这使它们成为网络安全的双刃剑。”
人工智能的对抗性进步是否被夸大了？
Dan Lattimer，Semperis 区域副总裁
“到 2025 年，人工智能仍将是一个流行词，但它在网络犯罪中的大部分用途仍然是基础和笨拙的。风险在于真正令人兴奋的应用程序可能会在噪音中迷失。”
戴夫·默克尔 (Dave Merkel)，Expel 首席执行官兼联合创始人
“每个人都问当攻击者使用人工智能时会发生什么，但现实是我们常常不知道——它看起来像一个非常快速、高效的人类攻击者。只有当攻击者被抓获并且他们的工具暴露时，我们才能真正理解对抗性人工智能的使用。”
负责任的人工智能是什么样的？
Cat Starkey，首席技术官，Expel
“人工智能将继续存在，推动企业采用它，同时解决数据隐私问题。不具代表性的训练数据集和“被遗忘的权利”等挑战将需要创新的治理解决方案。负责任的人工智能将推动新市场的稳健制衡。”
Dane Sherrets，HackerOne 员工创新架构师
“人工智能安全和安全标准将受到关注。模型卡等工具（总结模型的目的、性能和数据集元数据）将提高透明度。对抗性测试和人工智能红队对于管理风险和使模型与组织标准保持一致至关重要。”
深度假货和检测它们的工具的兴起
乔恩·弗朗斯，CISO，ISC2
“Deepfakes 将在 2025 年升级，成为经济驱动的攻击工具。对手将更大规模地使用受操纵的音频、视频和图像，以个人和企业为目标。教育、报告协议和检测工具对于应对这一威胁至关重要。”
Niall McConachie，Yubico 区域总监（英国和爱尔兰）
“人工智能克隆声音和相似性的能力，即所谓的网络钓鱼，已经被攻击者利用。随着这些工具的进步和对网络犯罪分子更好的教育，来年在攻击中创新地使用人工智能是不可避免的。”
Len Noe，网络方舟
“随着 Deepfake 的传播，初创公司将提供身份验证即服务。增强的多因素身份验证、生物识别和行为分析将验证在线和物理交互中的身份，可能包括用于增强安全性的植入芯片。”
更多用于检测和响应的人工智能工具
贾瓦德·马利克，KnowBe4
“人工智能驱动的网络安全工具将通过分析大量数据集和实时识别异常来彻底改变检测和响应。随着人工智能驱动的虚假信息策略的发展，深度伪造检测技术将变得至关重要。”
Axel Maisonneuve，SmartLedger 解决方案
“人工智能不会取代人类专家，但在威胁检测和响应中将是不可或缺的。 SOC 和 EDR 系统将依靠人工智能以无与伦比的速度和准确性分析数据。”
Mario Vargas Valles，Protegrity 副总裁
“自动化将重新定义事件响应、简化日常任务并加速物理和逻辑层面的修复。这将增强数据保护和效率。”
Max Vetter，Immersive Labs 网络副总裁
“DevSecOps 团队将使用人工智能来自动检测漏洞并防止可利用的代码。随着采用率的增长，安全团队必须保持敏捷性来应对新的威胁。”
人工智能对网络保险费的影响
阿基尔·米塔尔《黑鸭子》
“到 2025 年，网络保险费率将由人工智能驱动的实时风险评估决定。采用先进检测工具并保持领先标准的公司将受益于更低的保费和更好的承保范围。”
马克·洛根（Mark Logan），One Identity 首席执行官
“人工智能驱动的风险将推高保险费，因为保险公司会考虑与人工智能相关的违规和故障。这将推动企业优先考虑治理和安全，创建一个能够动态响应不断变化的威胁的市场。”
