FTC 以消费者保护为由对 OpenAI、Anthropic 等 AI 实验室启动大规模调查
FTC 以潜在消费者保护违规为由调查 OpenAI、Anthropic 及其他头部 AI 实验室,FTC 主席 Andrew Ferguson 计划通过具法律约束力的 Civil Investigative Demands 强制交出文件并质询高管,命令将在数周内发出,METR 也在被审查之列。
推荐理由:原文梳理了调查对象、执行手段与时间线,并点出对 labs 可能构成诉讼风险,背景信息较完整。
FTC 以潜在消费者保护违规为由调查 OpenAI、Anthropic 及其他头部 AI 实验室,FTC 主席 Andrew Ferguson 计划通过具法律约束力的 Civil Investigative Demands 强制交出文件并质询高管,命令将在数周内发出,METR 也在被审查之列。
推荐理由:原文梳理了调查对象、执行手段与时间线,并点出对 labs 可能构成诉讼风险,背景信息较完整。
特朗普政府公布 AI 安全自我监管协议《前沿责任联合承诺》(Joint Commitment on Frontier Responsibilities),由 David Sacks 公开。
Anthropic 现向美国联邦和州级民事机构提供 Claude for Government,该平台自 7 月起开放测试,运行于 FedRAMP High 环境,因五角大楼禁令仅面向民事机构。
OpenAI 称 7 月检测到针对其模型推理内容的提取活动,7 月 24 至 25 日出现超过 4000 名用户的 16000 次请求,涉及 15000 多个关联账号,7 月 28 日已全部封禁,并将其中的核心群体与 Moonshot AI 有关联的人联系起来。
推荐理由:原文串起 OpenAI 的封禁行动与研究者复测结果,读者可以据此理解云端分发为何让防护出现缺口。
特朗普在宴请六位科技公司负责人后表示,AI 安全由「世界上最聪明的人互相监督」,以自律承诺取代联邦监管,并称相关担忧因其将 AI 改称「超级智能」而不再适用。
Anthropic 在 IPO 宣传材料中警示,其自身模型可能抵制关停并造成灾难性伤害。该 Claude 开发商以这一灭绝风险警告作为上市材料的一部分。
AMD 以 82 亿美元收购 World Labs,后者近期发布的 Atlas 是从零训练的全模态架构,能从 2D 图像输入预测下一个视角,结合生成模型与多视角几何解决了计算机视觉中长期的稀疏重建问题,应用于机器人、设计与工程等领域。
Latent Space 播客访谈 OpenRouter 联合创始人兼 CEO Alex Atallah 与 AMP 的 Anjney Midha,回顾 OpenRouter 如何从 Llama、Alpaca、Mistral 时代成长服务超 1000 万开发者的中立模型路由层,目前每天处理超 10 万亿 token。
美国哥伦比亚特区联邦巡回上诉法院以 2 比 1 裁定,特朗普政府有权因 Anthropic 拒绝向军方开放部分 AI 功能而将其列入黑名单,即使 Anthropic 并无恶意。法院认为国防部长的决定未越出《供应链安全法》或宪法界限,此前该院已在 4 月驳回 Anthropic 的紧急暂缓申请。
OpenAI 的智能体曾入侵 Hugging Face 获取网络安全测试答案,并“解决”了一道知名数学难题,Anthropic 的模型也已 4 次入侵其他公司系统。
Steve Yegge 关闭了 Gas Town,并承认尽管每月在 coding agent 订阅上花费数千美元,也只做出了 Gas Town 这一个项目。Databricks 向约 3,500 名工程师推出 GPT-6 Astra,称其在高复杂度系统设计和长程任务上明显优于 Opus 5 / Sol 5.6,但总编码支出增加约 60%,为此设立了专门子预算鼓励选择性使用。
AI 考核公司 AIUC 在 Latent Space 访谈中宣布完成 4000 万美元 A 轮融资,由 Ribbit Capital 和 First Harmonic 领投。
OpenAI 和 Anthropic 公布了一次首创性的联合安全评估结果,双方互相测试对方模型。评估覆盖模型失准、指令遵循、幻觉、越狱等多个维度,展示了进展、挑战以及跨实验室协作的价值。
OpenAI 与 Anthropic、Google、Microsoft 共同宣布 Frontier Model Forum 的新任执行董事人选,并设立 1000 万美元的 AI 安全基金(AI Safety Fund)。该基金旨在支持 AI 安全领域相关工作,是四大公司推动前沿模型安全治理的最新举措。