白宫计划向联邦机构开放Claude Mythos预览版
白宫计划向联邦机构开放克劳德·神话（Claude Mythos）人工智能模型，引发各方担忧
4月16日（路透社）——据彭博社周四报道，美国政府计划向主要联邦机构开放Anthropic公司前沿人工智能模型“神话”（Mythos）的预览版。此前，人们担心该工具可能会大幅增加网络安全风险。
“神话”于4月7日发布，目前正作为Anthropic公司“玻璃翼计划”（Project Glasswing）的一部分进行部署。该计划是一项受控计划，允许特定机构出于防御性网络安全目的使用尚未发布的克劳德·神话预览版模型。
专家表示，“神话”已在操作系统、网络浏览器和其他软件中发现了“数千个”重大漏洞。其高级编码能力使其拥有前所未有的能力来识别网络安全漏洞并设计利用方法。
据彭博社报道，白宫管理和预算办公室（OMB）联邦首席信息官格雷戈里·巴尔巴西亚（Gregory Barbaccia）周二在一封电子邮件中告知内阁部门官员，OMB正在建立保护机制，以便各机构能够开始使用Mythos模型。
报道称，巴尔巴西亚在主题为“Mythos模型访问”的电子邮件中表示：“我们正与模型提供商、其他行业合作伙伴以及情报界密切合作，以确保在可能向各机构发布修改版模型之前，已落实适当的保障措施和保护措施。”
Anthropic AI标志。（Getty Images）
彭博社指出，巴尔巴西亚的电子邮件并未明确说明各机构将获得Mythos模型的访问权限，也没有提供具体的时间表或使用方式。
一位官员表示，白宫正与前沿人工智能实验室合作，确保其模型有助于修复关键软件漏洞。他还补充说，任何新技术都需要经过一段时间的技术评估，以确保其可靠性和安全性。
Anthropic公司尚未回复路透社的置评请求。
Anthropic联合创始人杰克·克拉克周一表示，即使在五角大楼因合同纠纷切断了与这家美国人工智能实验室的业务往来之后，该公司仍在与特朗普政府讨论Mythos项目。
尽管被列入黑名单，特朗普政府官员仍在谈判获得Anthropic公司的Mythos产品
Anthropic公司首席执行官达里奥·阿莫迪。图片：David Paul Morris/Bloomberg via Getty
据 Axios 报道，尽管有人不断试图将 Anthropic 公司列入供应链风险黑名单，但白宫和Anthropic 公司仍在积极讨论在联邦政府内部部署这家人工智能公司强大的新模型Mythos Preview 。
Anthropic 公司与五角大楼之间存在激烈的争执，但即使是不喜欢这家公司的美国官员也承认，该公司正在制造的工具可以帮助美国国家安全——或者，如果落入坏人手中，则会损害美国国家安全。
目前 Anthropic 公司只向部分公司和组织推出 Mythos ，而不是向公众推出，以便他们能够评估其可怕的网络能力并加强防御。
一些政府机构希望加入这个行列，白宫和 Anthropic 公司正在讨论在什么条件下才有可能实现这一目标。
针对各机构询问是否可以使用 Mythos 系统，管理和预算办公室发出了一封电子邮件（彭博社率先报道了此事），称他们正在调查此事。
两名消息人士告诉 Axios，目前正在与 Anthropic 进行讨论，各机构可能在未来几周内获得 Mythos 的使用权。
尽管 Anthropic 目前正与五角大楼进行诉讼，五角大楼宣布该公司构成“供应链风险”，并命令与军方合作的公司从其工作流程中移除 Anthropic 的软件，但情况依然如此。
目前，Anthropic公司被禁止参与五角大楼的合同，但在案件审理期间，该公司可以与政府其他部门开展业务。
一位政府官员表示：“白宫方面取得了一些进展，但战争部方面没有取得任何进展。”
第二位政府官员表示，政府“有责任评估每一种模型，以了解技术的前沿在哪里”，但指责 Anthropic 公司使用“恐吓策略”，发出 Mythos 可能极大地增强黑客攻击能力的警告。
“他们正利用这种名为‘神话’的网络武器在政府内部寻找支持者，”这位官员说。“他们成功了。”
他们说： “所有情报机构都在用 Anthropic 公司的情报。除了美国国防部之外，每个机构都想用。这是因为 Anthropic 公司不想杀人，而美国国防部的立场是‘别他妈的告诉我们该怎么做’。但如果你是能源部，你根本不在乎这些。你担心的是外国人攻击电网。所以你想要 Anthropic 公司的情报。”第一位政府官员说道。
Anthropic 公司的官方立场是，它不会允许其模型被用于大规模监视或开发完全自主的武器。
五角大楼表示，这种限制过于严格，因为这些定义很模糊，它需要得到保证，可以将人工智能系统用于“所有合法目的”。
这些担忧大多不适用于非军事工作。
Anthropic 公司和五角大楼均拒绝置评。
能源部和财政部等民事机构负责保障电网和金融系统等关键部门的安全，访问 Mythos 可以帮助他们确定公司和地方政府在哪些方面可能容易受到网络攻击，以及如何帮助他们做好准备。
特朗普政府的关键官员将 Anthropic 及其领导人视为觉醒的末日预言家，有些人甚至乐于给该公司贴上“供应链风险”的标签。
但其中一些官员以及许多其他人也认为，就用于国家安全的AI而言， Anthropic 公司的工具是同类最佳的。
在五角大楼与安特罗皮克公司争执最激烈的时候，一位国防部官员告诉 Axios，谈判仍在继续的唯一原因是“这些人太优秀了”。
Mythos令全球金融精英陷恐慌与困惑，英央行行长：上辈子做错了什么？
华尔街见闻
战争与历史性能源冲击，已令全球金融稳定面对难以承受之重。然而，Anthropic尚未发布的AI模型Mythos，给全球政策制定者又平添了一层不安。面对Mythos，人们的疑问远多于答案。
战争与历史性能源冲击，已令全球金融稳定面对难以承受之重。然而，Anthropic尚未发布的AI模型Mythos，给全球政策制定者又平添了一层不安。
据媒体报道，在国际货币基金组织与世界银行的春季会议上，中东军事冲突主导了议题走向，各国政府被迫重启危机应对预案，尽可能承诺协调合作，并借助财政与货币工具提振消费。而面对Mythos，与会者的疑问远多于答案。
欧洲央行行长拉加德周二在接受媒体采访时说道，一旦落入错误之手，后果将不堪设想。她所指的正是Mythos的破坏潜力，此言与其他央行行长、多国财政部长、监管官员和投资机构负责人的担忧不谋而合。他们都在急切寻找关于潜在威胁与防护措施的信息。
这一议题被推入公众视野，源于彭博新闻社的一篇报道：美国财政部长斯科特·贝森特召集华尔街领袖，就一款即将问世、可能开启机器人自主发动网络攻击新纪元的AI模型发出警告。贝森特本周三表示，“我有信心，所有人现在都已达成共识，正朝着同一方向努力，共同构建抗风险能力。”
然而在美国以外，此次会议所传递出的紧迫感，在各国高级官员和银行家中间引发了高度戒备。他们忧虑这项技术可能突破传统网络防线，令金融体系暴露于难以预料的威胁之下。
英国央行行长贝利本周早些时候在纽约哥伦比亚大学的一场活动上说，“按理说，海湾地区的局势应是我们当下面临的最新挑战。直到你一觉醒来，发现Anthropic或许已经找到了撬开整个网络风险世界的方法，才会想：我上辈子到底做错了什么。”
贝利与其他金融稳定领域顶级专家面临的困境在于：他们对相关威胁的了解仍然有限，无从判断Mythos在他们多年来持续预警的网络安全风险上究竟实现了多大的跨越。许多问题至今悬而未决：
Mythos是否会引发银行账户的大规模盗窃、国际支付系统的全面瘫痪，乃至一场动摇金融体系根基——信心危机？
这是否类似于量子计算的风险——一种监管机构已在深入研究的已知威胁，还是说需要全新的应对方案？
总部位于旧金山的Anthropic在多大程度上向非美国官员和银行分享Mythos的相关细节及访问权限，目前尚不明朗。一位执掌欧洲银行的美国高管表示，对方已承诺向其提供情况简报。访问权限的受限，可能令全球部分金融体系无力遵循国际货币基金组织关于紧跟网络威胁前沿动态的建议。
加拿大财政部长弗朗索瓦-菲利普·尚帕涅表示，Mythos需要全力关注，他希望就此议题与各国同行展开磋商。“我们有共同利益，必须确保金融体系的韧性。”
据媒体报道，美国财政部技术团队正寻求获取Anthropic的Mythos AI模型访问权限，以便着手排查潜在漏洞。
纽约联储是全球金融交易与稳定风险监管的核心枢纽。纽约联储主席威廉姆斯周四表示，近期技术进展已充分展示了这些AI工具的强大能力——无论是识别漏洞还是潜在利用漏洞，其发展速度远超许多人的预期。
据媒体援引知情人士透露，在周三举行的七国集团财长会议上，各方就建立国际机构框架以监管AI治理的必要性展开讨论，共识基础在于：没有任何一个国家能够单独应对Mythos带来的风险。其中一位人士补充说，鉴于风险呈指数级增长且后果可能极为严峻，与会者普遍支持深入探讨这一议题，但具体路径仍不明朗。
雪上加霜的是，这一末日AI情景还伴随着地缘政治风险的急剧上升。届时，技术角色将从提升金融业效率的引擎，转变为摧毁其技术基础设施的利器。
有业内人士指出，前沿AI能力的发展速度，已经超过了为其设计治理框架的速度。在这些模型深度嵌入金融等关键系统之前，构建护栏具有真实的紧迫性。
媒体分析称，本周追寻答案的过程，也凸显了AI领域“有者”与“无者”之间的鸿沟，以及全球金融稳定生态的日益碎片化。欧洲对自身过度依赖外国科技公司的担忧与日俱增。
官员们私下也对日益蔓延于全球金融对话中的“各自为战”倾向深表忧虑，认为这将阻碍全球范围内风险信息的有效共享。数位欧洲官员表示，他们将利用本周会议的契机，敦促美国同行尽可能分享相关信息。
瑞典财政部长伊丽莎白·斯万特松表示，周四晚些时候将有一场与央行行长和财长们的预警会议，AI将是议题之一。“我的信息是：AI是美好的，但不可预测的领导力与AI相结合，则是危险的。美国与以色列的战争及不确定性，以及网络威胁，是当前的主导议题。”
页:
[1]