高盛CEO警示Mythos模型：AI能力超越人类，带来前所未有风险

当地时间4月13日，高盛集团首席执行官大卫·苏德巍（David Solomon）在财报电话会议上发出严厉警示，称其对Anthropic旗下最新AI模型“Mythos”保持高度警觉。

苏德巍在周一的会议上对分析师坦言：“显然，大语言模型正在迅速进步，在美国政府和模型开发方的帮助下，我们对这些新模型的增强能力保持高度警觉。”

他所指的“增强能力”，正是Anthropic上周发布的、被誉为“分水岭”级别的AI系统——Mythos。与传统聊天机器人不同，Mythos被设计为一个强大的“漏洞发现机器”。Anthropic在官方博客中毫不掩饰其能力的恐怖之处：“AI模型在编程能力上已经达到很高水平，发现和利用软件漏洞的能力已超越除最顶尖人类专家外的所有人。这可能对经济、公共安全和国家安全带来严重影响。”

苏德巍补充道，高盛已经充分了解Mythos的实际能力，并已开始使用。“目前高盛正在与Anthropic等供应商密切合作，尽可能利用这些前沿能力，并持续关注业界动态。”他强调，高盛正在大力加强网络安全和基础设施建设，持续加大相关投资，以应对这一新型威胁。

华尔街的恐慌，源于Mythos展示出的“降维打击”般的攻击能力。根据Anthropic披露的数据，Mythos并非简单的代码辅助工具，而是一个具备自主战略思维的“黑客代理”。

在测试中，Mythos展现了令人咋舌的战绩：

·挖掘27年安全漏洞： 它在以安全性著称、广泛用于防火墙等关键基础设施的OpenBSD系统中，发现了一个潜伏了27年（自1998年起）的远程代码执行漏洞。攻击者只需建立连接，即可远程崩溃运行该系统的任意机器。

·突破500万次测试防线： 在广泛使用的视频编解码库FFmpeg中，Mythos发现了一个存在16年的漏洞。此前，自动化模糊测试工具曾对这行代码执行了500万次测试，却始终未能识别，而Mythos做到了。

·自主提权： 在Linux内核中，模型自主发现并串联多个漏洞，实现了从普通用户权限到完全控制目标机器的提权。

更令人不安的是其效率。创业公司Onit Security联合创始人Ofer Amitai指出，顶级人类安全团队每年发现的此类高危漏洞约为100个，而Mythos在测试期间就挖掘出了“数千个”。这意味着其效率可能是人类顶尖团队的10至100倍，且能将漏洞利用开发时间从数周压缩至数小时。

值得一提的是，Mythos的出现，迫使监管机构将“AI驱动的网络攻击”视为金融业面临的最大威胁之一。

近日，美国财政部长斯科特·贝森特与美联储主席杰罗姆·鲍威尔在华盛顿紧急召集了包括花旗集团、摩根士丹利、美国银行、富国银行及高盛在内的多家“系统重要性银行”CEO举行闭门会议。

与此同时，据《金融时报》报道，英国政府人工智能安全研究院（AISI）警告称，Mythos在网络威胁层面是一次“重大升级”。AISI指出，Mythos能够在无需人工干预的情况下，独立执行需要多个步骤的攻击操作。它是首个成功完成AISI设计的32步网络攻击模拟任务的AI模型。

未来两周内，英国各大银行、保险公司及交易所代表将被召集，听取关于该模型潜在威胁的专项简报。