信任是合作、贸易和企业决策的基础。在数字时代，信任是通过签名、声音和虚拟互动建立起来的。但随着深度伪造技术的快速发展，这种信任正在削弱，造成新的风险，绕过了数十年的网络安全投资。
在本期 The AI Forecast 中，Paul Muller 与 GetReal Security 的首席产品兼技术官 Jim Brennan 探讨了人工智能驱动的真实性威胁如何改变企业安全格局。他们的对话揭示了为何深度伪造成为社会工程的新面貌，为什么必须由技术而非人眼主导防御，以及领导者如何保护企业和员工。
人为因素已成为最薄弱的环节。
Paul： 数十年的数据转换让我们能够即时协作。但现在，我们所依赖的东西——屏幕上的小窗口——成了新的攻击面。如果我不能相信我所看到的，那么唯一的退路就是昂贵、缓慢的线下互动。
Jim： 一位 CIO 告诉我，‘这个小窗口是我经营业务的地方，现在我不能信任任何通过它进入的东西。’这很深刻。人眼无法感知如此复杂的程度。大多数人的猜测都是五五开，即50/50。这就是为什么防御必须由技术主导，而非依赖本能。
信任促进合作，合作推动业务发展。但深度伪造技术在最个人化的层面上破坏了这种信任——领导者所依赖的日常对话和视频通话。Jim 将其描述为一种新的面向人类的交互层，他称之为“显示层”，而 Paul 则戏称为“Liar 8”，这是一个全新的攻击面。与防火墙和入侵检测系统不同，这不是技术层面的问题，而是人为层面的问题。高管们用来沟通和决策的媒介现在可以被操纵。
董事会对现实威胁做出回应，而不是好莱坞情节
Paul：董事会是否有可能将深度伪造视为不可能发生在他们身上的事情？
吉姆：只需要看一次就能相信它是真实的。但是，真正的挑战是向董事会展示这对他们的业务意味着什么。如果你依靠轰动一时的重大故事，他们可能会不屑一顾。现实是，规模较小的日常事件已经在发生，而这些事件往往更能引起共鸣。
他将欺诈性招聘作为一个典型例子。攻击者利用深度伪造技术冒充求职者，蒙混过关，通过人力资源流程。有时动机只是单纯的经济利益，比如拿到签约奖金。其他时候，情况要严重得多：民族国家行为者在公司内部安插冒名顶替者进行间谍活动或大规模欺诈。‘
Jim： 在过去三个月里，我联系过的每一家财富 500 强和 1000 强公司都告诉我们，他们存在欺诈招聘问题。人力资源团队的思维方式与攻击者截然不同，这使得招聘工作很容易成为攻击目标。
技术必须引领数字真实性的斗争
Paul：我们一直使用技术来对抗技术——防火墙、防病毒、入侵检测。我们能否用同样的方法来对抗深度伪造技术？
Jim：你不能简单地通过训练来解决这个问题。建立一个黑盒模型，并向其提供真实和虚假的例子是行不通的。更好的方法是利用数字取证技术研究深度伪造技术留下的痕迹，无论是面部扭曲、音频噪声还是光照不一致，然后利用机器学习技术大规模查找这些信号。
Jim 解释说，有效的防御措施必须超越通用人工智能，深入生成工具的“底层”以识别微妙的痕迹和伪造物。实际上，企业可以通过 Zoom 或 Teams 等平台的 API 部署这些保护措施，避免终端安装，保持防御的可扩展性。同时，意识也至关重要——网络研讨会、演示和模拟活动为员工提供了在行动前暂停和思考的环境。技术和培训构成了保护数字信任所需的两个层面。
给企业领导者的总结性见解
Jim：我们生活在一个你不能相信屏幕上任何东西的时代。组织需要新的政策，也需要新的运作方式。
威胁态势已发生转变。深度伪造并非只是遥远未来的风险。它们已然存在，正在侵蚀企业决策能力与个人安全。从欺诈性雇用到 AI 克隆勒索电话，数字信任已无从保证。
前进的道路有三条：
- 以可靠、贴近现实、符合现有风险框架的实例教育董事会
- 让员工意识到“看见”和“听见”已不足以证明真相
- 部署可实时检测并响应真实性威胁的技术
在 Spotify、 Apple Podcasts 和 YouTube 上收听 The AI Forecast 节目，了解 Jim Brennan 的完整谈话。
