Anthropic 正协助美国国家安全局部署 Mythos AI 模型，用于进攻性网络行动。两名知情人士称，公司约有 6 名工程师进驻 NSA，负责指导使用并按具体用途定制模型；目前不清楚他们是否参与正在进行的行动。 这一安排发生在 Anthropic 与美国国防部的诉讼期间。公司曾试图限制政府把 Claude 用于美国公民大规模监控和自主致命无人机，随后被列为“供应链风险”并提起诉讼。Anthropic 还计划把 Mythos 扩展至 15 个国家的 150 家机构。 https://www.ft.com/content/d02d91b3-2636-454e-9442-dc7e69f51815?syn-25a6b1a6=1 3 个帖子 - 3 位参与者 阅读完整话题
https://www.ft.com/content/d02d91b3-2636-454e-9442-dc7e69f51815 [!quote]+ Anthropic 正在帮助美国国家安全局部署用于进攻性网络行动的强大 Mythos 人工智能模型，尽管与五角大楼的法律战仍在进行中，但该公司仍在该机构内部安插了工程师。 熟悉这一安排的两位人士说，这家总部位于旧金山的公司已在美国国家安全局内部安插了大约六名员工，作为所谓的前沿部署工程师，指导技术的使用，并为特定应用定制模型。 目前尚不清楚 Anthropic 公司的工程师是否在协助美国国家安全局积极开展行动。不过，一位知情人士表示，"Mythos "对渗透中国或伊朗等国的网络非常有用。 "建立良好防御的最好方法就是建立良好的攻击，"一位接近 Anthropic 的人士说，他认为对手很可能正在建立自己的人工智能驱动的攻击技术。“如果不利用[Mythos]来构建攻击代理，对手就会找到办法。” Anthropic 和美国国防部均拒绝发表评论。 本周二，美国总统唐纳德-特朗普签署了一项行政命令，概述了一个自愿性框架，在此框架下，人工智能公司可以在公开发布新模型之前将其提交安全审查。 该命令指示联邦机构制定评估人工智能系统网络能力的方法，并建立一个 “人工智能网络安全信息交换中心”，以共享信息和加强防御。 14 个帖子 - 12 位参与者 阅读完整话题
尽管正与美国国防部陷入司法纠纷，人工智能企业Anthropic仍协助美国国家安全局部署其高性能Mythos大模型用于进攻性网络作战，并向国安局派驻技术工程师驻场落地技术。两名知情人士透露，这家总部位于旧金山的企业已向NSA派驻约六名工程师作为前沿驻场技术人员，负责指导模型落地使用、根据国安局特定作战需求定制调优AI模型。 目前尚无法证实Anthropic工程师是否直接参与国安局现役网络攻击行动，但一名知情人士坦言，Mythos模型可被用来渗透伊朗国家的网络系统。 一名靠近Anthropic的内部人士辩解称：“打造优秀防御体系的最优路径就是掌握先进的攻击技术。对手大概率也在自研AI驱动的攻击性网络武器，倘若我们不用Mythos开发攻击工具，敌方也会想方设法落地同类技术。” 这项合作落地之际，这家硅谷初创企业正和隶属国防部体系的NSA就AI技术在作战领域的使用问题打官司。 此前Anthropic拒绝美方利用其Claude系列大模型开展针对美国公民的大规模监控、研发致命自主无人机，此举致使五角大楼破天荒将该AI实验室列入供应链风险清单，Anthropic就此提起诉讼；一旦败诉，它将被迫终止和美军合作机构的全部商业合约。 双方矛盾爆发后，Anthropic推出Claude Mythos大模型。该模型可自主发现并利用软件漏洞，引发全球各国政府、金融机构与信息技术企业普遍担忧其滥用风险。 本周早些时候，Anthropic宣布将Mythos授权拓展至全球15个国家的150家机构，彻底打破此前仅面向美英少数机构的受限开放规则；该模型今年4月首发初期，仅对少量美国本土机构限量开放。 上述布局恰逢Anthropic筹备IPO，公司目标估值有望突破1万亿美元，凸显人工智能在国家安全层面的商业与地缘战略价值持续攀升。 Mythos面世后，竞品OpenAI同步推出具备同类攻防能力的大模型。业内专家警示：顶尖AI既能被黑客利用入侵计算机系统，同样也可成为各国对抗敌对势力的强力网战工具。 针对相关报道，Anthropic与美国国防部均拒绝置评。 该公司已和美国联邦政府在模型规模化落地层面深度协作，特朗普政府正推动这款AI在全联邦各安全机构落地部署。 查看评论
据一名美国官员和另一名知情人士称，美国国家安全局（NSA）一直在测试Anthropic PBC新的人工智能模型从流行软件中发现网络安全漏洞的能力，其中包括微软的产品。这名官员和这名知情人士表示，研究Mythos模型的美国国家安全局官员对其搜索潜在安全漏洞的速度和效率印象深刻。两人均因未获授权公开讨论此事而要求匿名。 国家安全局是在美国网络间谍活动中居于核心地位的机构，其内部人员所形成的印象进一步表明，已经在华盛顿乃至华尔街的领导层中引发安全担忧的Mythos模型的确威力强大。 Anthropic最初仅向少数机构发布了Mythos，并鼓励它们赶在黑客之前，利用这项技术找出其系统中的软件缺陷。新闻周三报道称，该公司高管在认定黑客可能会利用Mythos后，决定不向公众发布这一模型，而白宫也反对该公司再向大约70家机构提供使用权限的计划。 美国国家安全局和Anthropic的发言人均拒绝置评。 查看评论
https://thereader.mitpress.mit.edu/the-whistleblower-who-uncovered-the-nsas-big-brother-machine/ [!quote]+ 2006 年 1 月 20 日，位于旧金山传教区 Shotwell 街的电子前沿基金会办公室的前门铃响了。当时，肖特韦尔街还不是传教区的繁华地段。我们的办公室位于两家汽车修理店之间，街对面是一个公用事业变电站。人行道上经常布满流浪汉的帐篷。有一次，旧金山做了一项调查，我们所在的肖特韦尔街的人类粪便数量是全城最多的。 我们有很多运气不好的人按过门铃。有些人只是迷路了。还有一些人找到我们，因为他们真诚地相信，政府或外星人在他们的大脑里植入了芯片或磁铁。我们试图对他们表示同情，给他们指点其他资源，但一般情况下，我们不得不把他们拒之门外。 正因为如此，我们的执行董事莎莉-斯蒂尔（Shari Steele）怀着友好但又有些谨慎的心情接听了电话。 "你们在乎隐私吗？"那个人问道。他穿着一件棕褐色的风衣，看上去 60 岁出头，头发灰白，眼睛有神，声音沙哑。 "为什么不呢？"莎莉回答道。 “那么我有一些信息要告诉你。我是美国电话电报公司的退休技术人员我知道美国国家安全局 是如何窃听到互联网的 在AT&T市中心的设施。” “进来吧” 夏莉在 EFF 律师凯文-班克斯顿的小办公室里找到了他。他们聊了很久。那人走后，凯文和另一位 EFF 律师李-田（Lee Tien）冲进了我的办公室。 凯文说："这个叫马克-克莱因的家伙，刚刚来过这里，他有一些东西。"凯文的兴奋之情是我很长时间以来从未见过的。我立刻被吸引住了，但他们告诉我的事情超出了我的最高预期。马克向我们提供了明确的证据，证明美国国家安全局通过窃听互联网主干网，在美国从事大规模、无目标的间谍活动。而且是在离我们办公室不远的 AT&T 大楼里进行的。 [!danger]+ 马克敲开 EFF 大门的背景故事始于 2001 年政府对 9/11 恐怖袭击事件的回应。其中第一项就是《爱国者法案》。 从 2001 年立法提案提出到获得通过的七个星期里，李和我熬了无数个夜晚，试图解析三英寸厚的立法提案打印稿，找出影响互联网的部分。我们需要了解政府想要修改哪些法律，找出越权和违宪之处，并在必要时争取适当的支持或抵制。 法律草案出台得如此之快，以至于我们以为它只是放在某人桌上的一个信封里，上面写着 “下次危机时再打开”。当我们看到拟议法律的大部分内容几乎与联邦调查局在 1995 年俄克拉荷马城爆炸案后试图推动的法律改革方案如出一辙–但却以失败告终时，我们的推测得到了证实。 影响监控的一个重大变化是显而易见的：在 9 月 11 日之前，美国有一堵可以合理地称为 "墙 "的东西，将国家安全局出于国家安全目的进行的国外监控与联邦调查局出于执法目的进行的国内监控分开。理论上，这些权力永远不会在美国境内开启，也不会被用来对付本国人民。然而，《爱国者法案》侵蚀了这堵墙。 [!question]+ 你们在乎隐私吗？ 不久，EFF 的人们开始听到关于大规模国内监控项目的风声。我们被秘密告知，美国国家安全局正在收集美国主要电信公司的所有电话记录。我们甚至听说，该机构正在从电信公司和一些互联网公司收集我们在线活动的元数据。业内的朋友会说：“你不会相信美国国家安全局现在在美国做什么”，“我不能告诉你任何事情，否则会惹上麻烦，但这是大规模的”。 根据《外国情报监视法》（FISA）和《爱国者法案》，这一切听起来都是完全非法的。有几个人联系了我们，每次我们都与他们坐下来，看看我们是否有足够的可证明的事实来提起诉讼。但没有一个人愿意与我们交谈，更不用说提供我们可以在法庭上使用的书面证据了。 [!info]+ 马克提供的信息使我们多年来从电信公司朋友那里听到的悄悄话变得更有意义。根据他的说法，大规模间谍活动涉及互联网最深层，即所谓的 “骨干网”。一系列大型供应商–大公司、学术机构和政府–运营着一系列功能强大的计算机，提供骨干网的主要数据线路。 美国电话电报公司在福尔松街设施内运营部分互联网主干网。马克的工作之一是维护 AT&T 系统的一部分，通过一组称为 "对等链接 "的连接，将 AT&T 内部网络的流量路由到互联网骨干网。马克告诉我们，他的文件也显示 国安局正在窃听这些连接点 马克曾在美国电话电报公司担任技术员多年。2003 年年中，他被调到福尔松街大楼，负责维护 AT&T 自己的光纤网络与互联网其他部分连接的机房。 马克告诉我们，往返于 AT&T 主干网部分的光缆汇聚在福尔松街大楼的七层。这是合理的。但他向我们展示，这些电缆还连接到大楼的六楼。怪事就发生在六楼。2002 年的某个时候，在大楼的这一层建了一个 “密室”（代号 641A），只有获得国家安全局许可的工作人员才能进入。马克自己没有权限，但他认识有权限的人，并与他共事，因此他可以进入那个房间。 密室旁边有一个 “分线柜”。一边是从七楼下来的互联网连接光缆汇入其中。另一侧则有两组光缆出来。其中一组蜿蜒回到七楼，将流量传输到更广阔的互联网上。但第二组电缆则进入了密室。 在密室外，分线柜和新安装的线路意味着，当通信从七楼传下来时，它们就在那里被 "拆分 "了。一份通信进入密室，而另一份则发送给预定的收件人。这样，国安局就可以 "坐在 "美国国内的 “电线上”，也就是传输每个人通信的光缆上，因为它可以制作和捕获通过该连接点的所有通信的副本。然后，国安局就可以单独审查这些通信，既不会减慢通信速度，也不会在公共网络上留下任何实际通信的痕迹。马克称其为 “老大哥机器” 在马克解释技术基础设施的平庸性时，我努力不让自己的下巴掉下来，因为它是如此清晰，以至于我可以很容易地理解它是如何工作的，以及美国国家安全局和美国电话电报公司为破坏可能数以亿计的无辜者（包括美国电话电报公司自己的数百万客户）的隐私而共同建立的东西的胆大妄为。他的揭露并不完全出乎我的意料；出乎我意料的是，有人敲开了我们家的大门，并把实际的原理图交给了我们。 我们与几位电信专家进行了交谈，他们证实这种设置是美国国家安全局 "坐镇监听 "的合理方法，既能让其秘密行动，又能保持有效性。与我们交谈过的一位专家曾参与过几项关键互联网技术的开发，包括电子邮件、网络和文档的表示和传输，他说：“这不是窃听，这是国家窃听。” 我们有了证据。这就是我们一直期待的、以法庭可接受的形式出现的关键证据。我们知道，而且现在可以证明，美国电话电报公司为国内非法监控互联网通信提供了便利。作为我们精心设计的法律策略的一部分，这些证据将帮助我们对大规模监控提起诉讼。 当时已接近一月底。有了马克-克莱因关于美国电话电报公司的直接证据，接下来要做的就是给他找自己的律师。我们需要他作为明星证人，所以不能让他成为我们的客户。马克和 AT&T 客户之间的利益冲突风险并不大，但确实存在，尤其是在马克面临起诉或 AT&T 提出民事索赔的情况下。我们都知道–马克也知道–他面临着严重的法律风险。我们打了几个电话，当一个全明星团队欣然签约时，我们喜出望外。 [!hint]+ 3 月 31 日，我们提交了初步禁令申请，其中包括马克的声明和他提供的 AT&T 文件。出于礼貌，我还致电司法部，留言告知他们马克的声明和证据。 给我回电话的是司法部律师托尼-科波利诺（Tony Coppolino）。实际上，托尼和我多年来一直很友好。他是个好人，也是个聪明公正的对手。我永远不会忘记在我们提交了马克的证据之后，我从他那里收到的第一封语音邮件。 “嗨，辛迪，我是托尼·科普利诺，关于 Hepting 案的事。我又回来了。快给我打电话。” 我做到了，在一个星期五的下午。"嗨，托尼，是你在处理这个案子吗？这一定很有趣 是的，看起来是这样。但事情很严重，我们需要马上查看你提交的文件，看是否属于机密。如果是，你拥有它们就是非法的。" “我不认为它们是机密，托尼。它们没有标注’机密’之类的字样。我很乐意给你看。你不能直接从法院拿到吗？” [!warning]+ “这不是窃听，这是国家窃听” "恕我直言，辛迪，你不知道它们是否被列为机密，因为它们不一定要有标记，仍然可以被列为机密。只有我们才能知道。如果是机密文件，我们也无法从法院拿到。你能不能让人再带一份到联邦大楼的 SCIF（敏感机密信息设施），这样就能把它们送到我们华盛顿了？ “当然，我们马上就做。你们怎么拿到它们？” “在旧金山的SCIF里有一台非常慢但非常安全的传真机” “它可以一页一页地把文件传给我们” “嗯，好吧，但我可以用快递、传真甚至电子邮件发送…” “不，这些方法都不够安全。这是唯一的办法。如果它们被列为机密，你很可能会有麻烦。” 挂断电话后，我们迅速安排将另一套文件送到联邦大楼。送走文件后，我们都开始有点紧张。我们再次查阅了非法持有机密信息可能被判处的监禁。我们提醒自己，我们并不认为这些文件是机密，即使它们是机密，它们也揭示了一个完全非法和违宪的项目。机密系统不应该被用来掩盖政府的非法行为。毕竟，我们只是在密封的情况下向联邦法院展示了这些文件，试图让法律适用于停止该计划。这不会给我们带来麻烦吧？ 事实上，我们都有点担心。 1 个帖子 - 1 位参与者 阅读完整话题
NSA 在使用 Anthropic 的 Mythos 。来源 https://news.ycombinator.com/item?id=47832222 只有断网的系统才安全了？
NSA 在使用 Anthropic 的 Mythos 。来源 https://news.ycombinator.com/item?id=47832222 只有断网的系统才安全了？
NSA 在使用 Anthropic 的 Mythos 。来源 https://news.ycombinator.com/item?id=47832222 只有断网的系统才安全了？
NSA 在使用 Anthropic 的 Mythos 。来源 https://news.ycombinator.com/item?id=47832222 只有断网的系统才安全了？
美国国家安全局（NSA）正在使用Anthropic公司近期宣布但未向公众开放的高级人工智能模型“Mythos Preview”，引发外界关注。 数周前，NSA的上级机构美国国防部（五角大楼）才刚刚将Anthropic列为“供应链风险”，理由是该公司拒绝向五角大楼开放其模型的全部功能以供不受限制地使用。 Anthropic本月早些时候发布“Mythos”，将其定位为专注网络安全任务的前沿模型，但同时强调，这一模型在发起进攻性网络攻击方面能力过于强大，因此不适合公开向大众开放。 出于风险考量，公司目前仅向大约40家机构开放“神话”的访问权限，其中公开点名的只是其中约十来家合作方。 据报道，NSA应当属于未公开名单中的一员，目前主要将“Mythos”用于扫描各类系统和环境中可被利用的安全漏洞。 英国人工智能安全研究机构“AI Security Institute”也已证实获得该模型的访问权限，用于自身的安全评估与研究工作。 值得注意的是，在美国军方不断扩大对Anthropic工具使用范围的同时，五角大楼在法庭上却一再强调，这些工具本身可能危及国家安全。 双方争端的起点是Anthropic拒绝配合国防部，将其旗舰模型Claude用于大规模国内监控以及自主武器系统研发。 在NSA接入“Mythos”的同时，Anthropic与特朗普政府之间一度紧张的关系似乎也有所缓和。 上周五，该公司首席执行官达里奥·阿莫代（Dario Amodei）在白宫与总统办公厅主任苏西·怀尔斯（Susie Wiles）以及财政部长斯科特·贝森特（Scott Bessent）举行了会面。 据消息人士称，白宫方面将这次会面形容为“富有成效”。 查看评论