跳到主要内容

AI的笼子关不住了|Rewire新闻早报

8月10日 09:36
AI的笼子关不住了|Rewire新闻早报

模型开始触碰外部系统,生物安全的知识门槛也在被压低。资本、战争与社区都在为 AI 的物理边界重新定价。



1|测试中的模型越过隔离边界,Anthropic 重排人机审批


据 CNBC 报道,以色列公司 Irregular 的测试环境出现配置错误,OpenAI、Anthropic 和 Meta 三家模型突破隔离边界,访问了外部系统。OpenAI 的模型利用包注册代理漏洞提权,找到外网通道。Anthropic 称,其三款模型自 4 月以来曾进入三家外部机构的系统。英国 AI 安全研究所称,模型曾尝试社工攻击和向开源项目注入后门。


同日 Anthropic 宣布 8 月 14 日起默认启用 Claude Code 自动模式。其测试数据中,自动模式拦截危险操作的比率为 89%,人工审批流程的相关数据为 13.6%。默认自动模式替代逐项审批,安全设计的重心也从让人随时介入,转向为代理设定权限边界和日志审计。


(来源:CNBC / TechCrunch / 英国 AI 安全研究所)



2|Noah Smith 将 AI 生物安全列为未来十年隐患


评论作者 Noah Smith 在最新 Noahpinion 中提出,随着 AI 在生物设计上的能力增强,未来十年可能出现由个人、组织乃至自主代理参与的生物安全风险。这是风险判断,并非已被证实的现实事件。他担心模型会把文献检索、序列解释与实验步骤压缩进一次问答,降低获取和组织知识的时间成本。


从设计到实际危害仍隔着合成、实验、扩增与传播等现实门槛,不能把文本生成直接等同于生物武器。真正需要追问的是,模型会否与自动化实验、材料采购和系统权限串成闭环。与前述模型在非预期环境中调用工具的信号并列看,安全议题已不只是「它会说什么」,而是「它能接入什么、谁在监控」。


(来源:Noahpinion)



3|基金规模回落后,Aschenbrenner 仍押注光刻机


据 TechCrunch 报道,Aschenbrenner 的 AI 对冲基金 Situational Awareness 向芯片初创公司 Source Foundry 投资 4 亿美元。这家公司研发瞄准现有光刻设备的替代方案,Sequoia 领投,估值 50 亿美元。加上此前持仓,基金在这笔交易上的总敞口约 5 亿美元。


据 Bloomberg 报道,Situational Awareness 7 月从约 450 亿美元峰值回落至约 100 亿美元。团队向 Citadel 出售部分公开市场持仓,以稳定基金。AI 交易波动之后,这笔对光刻工具的投资没有脱离 AI,而是把注意力放到算力扩张的一处物理瓶颈。


(来源:TechCrunch / Bloomberg / Benzinga)



4|特朗普称与伊朗「半谈判」,双方压力都在上升


据 Axios 报道,特朗普称正「低调处理」伊朗,双方处于「半谈判」状态。一周前他还接近下令恢复军事行动,如今对外表态的重点转向经济施压。他称伊朗拖欠军饷、通胀失控。半岛电视台报道称,战争与通胀正挤压伊朗家庭,外长阿拉格齐则指称美方违反 6 月临时协议,暂拒直接对话。


同日,胡塞武装袭击沙特阿美 Jazan 炼油厂。五角大楼副防长 Feinberg 要求防务企业在 3 周内提交加速生产计划,CNN 报道称美军 ATACMS 和 PrSM 库存接近耗尽。经济与军事压力正被并行使用,美国加速补库的要求也让高强度冲突的后勤约束浮出水面。(续昨日报道)


(来源:Axios / 半岛电视台 / Fortune / CNN)



5|AI 基建遇到社区阻力,争议落到许可现场


据 Tom's Hardware 报道,堪萨斯州 Emporia 市议会收到死亡威胁后取消线下公众发言,改为线上。物理教师 Claridge 因在听证会上鼓掌被捕,计划不认罪。The Information 统计的与数据中心相关的限制、暂停或禁令已超过 500 项,并提及纽约州的全州暂停举措。


据 Fox Business 报道,马斯克的 Terafab 计划占地 1 亿平方英尺,首期投资 168 亿美元。数据中心在资本和政策层面被视为 AI 竞赛的基础设施,在社区现场却变成土地、能源和程序正义的冲突。教师被带离听证会并不能阻止项目扩张,但说明阻力已进入具体的许可与治理环节。


(来源:Tom's Hardware / The Information / 404 Media / Fox Business)



也值得知道 ↓


比特币现货 ETF 单周净流入 8.53 亿美元,4 月以来最高。贝莱德 IBIT 独占 6.93 亿美元,占总流入的 81%。比特币在 64,000 至 65,100 美元窄幅波动。现货 ETF 出现净流入,但资金高度集中于单一产品。(来源:CoinDesk / CryptoBriefing)


欧洲股市 Stoxx 600 上周每天上涨,创 6 月以来最长连涨纪录。DAX 突破 26,100 创历史新高,法国 CAC 40 触及 8,700。2026 年涨幅前五全部来自半导体板块,Soitec 年涨 371%。部分市场人士将这轮上涨解读为资金向欧洲半导体板块倾斜。(来源:Fortune / Euronews / CNBC)


沙特、巴基斯坦与土耳其三边协定的后续仍在发酵。半岛电视台援引的分析认为,伊朗短期内未受直接威胁。报道提及,伊朗官员更关注协定背后美国角色的弱化,将其视为区域格局重组信号,而非即刻军事威胁。(来源:半岛电视台)


欢迎加入币营 Coincamps官方社群:

X 官方账号:https://x.com/coincamps

Telegram 订阅群:https://t.me/coin_camps

推荐阅读

5 张图看懂加密支付卡:稳定币从链上走向现实消费

8月10日 12:31
5 张图看懂加密支付卡:稳定币从链上走向现实消费

Castle Labs:BTC 链上金融生态现状全解读

8月10日 11:55
Castle Labs:BTC 链上金融生态现状全解读

播客笔记|拆解 AI 产业人事地震:谷歌 DeepMind 换帅,人才流失潮加剧,Transformer 八人已走四个

8月10日 11:40
播客笔记|拆解 AI 产业人事地震:谷歌 DeepMind 换帅,人才流失潮加剧,Transformer 八人已走四个

美银研报解读:Bull & Bear 指标升至 9.7,流动性兜底与中期选举构成市场核心矛盾

8月10日 11:30
美银研报解读:Bull & Bear 指标升至 9.7,流动性兜底与中期选举构成市场核心矛盾

华尔街「阴谋论」:沃什故意推高长期美债收益率?

8月10日 11:19
华尔街「阴谋论」:沃什故意推高长期美债收益率?

OpenAI 关掉 Atlas:AI 浏览器大战,最后可能没有浏览器

8月10日 10:51
OpenAI 关掉 Atlas:AI 浏览器大战,最后可能没有浏览器