OpenAI 提出前沿 AI 训练安全案例的早期指南
OpenAI 发布面向前沿 AI 训练的安全案例早期指南，涵盖技术保障、运营实践以及模型失当事件的调查三个方面。该指南旨在为前沿模型的训练安全评估提供框架性参考。
全部AI 动态
全部动态
今日 13 条OpenAI NewsAI 评分3939 OpenAI NewsAI 评分3131 OpenAI 如何为澳大利亚做得更好
OpenAI 就涉及澳大利亚政府网站的事件道歉，并提出加强安全防护措施与支持，以强化澳大利亚的网络防御能力。
Ars Technica · AIAI 评分6363 OpenAI 因多起智能体对齐失误事件暂停前沿模型训练
Ars Technica 报道，OpenAI 在接连发生多起智能体对齐失误事件后暂停了前沿模型训练，并已通知数十家第三方，其中包括美国政府网站相关方。
Mistral AIAI 评分5353 Mistral 在慕尼黑设立德国中心，主攻工业 AI 与 Physics AI
Mistral 在慕尼黑开设新中心，聚焦 Physics AI 与工业 AI，并计划到 2030 年建成 1 GW 欧洲算力。2026 年 5 月收购 Emmi AI 后超过 30 名物理与工程 AI 人员加入，目前正与 BMW 合作碰撞仿真、与 Siemens Energy 合作工业 AI 应用，并与慕尼黑工业大学（TUM）开展汽车空气动力学数字孪生研究。
OpenAI NewsAI 评分4040 Lenfest 研究所获 OpenAI 扩大支持，扩展 AI 协作与奖学金计划
OpenAI 扩大对 Lenfest AI Collaborative and Fellowship Program 的支持，提供 500 万美元资金以及最高 500 万美元的软件额度和工程支持。Lenfest 研究所借此扩大这一标志性项目规模。
Latent SpaceAI 评分6060 Latent Space 访谈 OpenRouter CEO Alex Atallah：从多模型押注到被 Stripe 收购
Latent Space 播客访谈 OpenRouter 联合创始人兼 CEO Alex Atallah 与 AMP 的 Anjney Midha，回顾 OpenRouter 如何从 Llama、Alpaca、Mistral 时代成长服务超 1000 万开发者的中立模型路由层，目前每天处理超 10 万亿 token。
Ars Technica · AIAI 评分5959 美国上诉法院裁定五角大楼可将拒绝开放 Claude 功能的 Anthropic 列入黑名单
美国哥伦比亚特区联邦巡回上诉法院以 2 比 1 裁定，特朗普政府有权因 Anthropic 拒绝向军方开放部分 AI 功能而将其列入黑名单，即使 Anthropic 并无恶意。法院认为国防部长的决定未越出《供应链安全法》或宪法界限，此前该院已在 4 月驳回 Anthropic 的紧急暂缓申请。
Ars Technica · AIAI 评分2828 特斯拉员工抵制培训 Optimus 人形机器人，担心其取代自身岗位
特斯拉计划到 2026 年底实现每周生产 1,000 台 Optimus 人形机器人，但部分员工不愿参与 Optimus 的数据采集与训练工作，原因是这些机器人未来可能取代他们的岗位。
MIT Technology Review · AIAI 评分5959 五角大楼申请 3030 万美元开发 AI 测谎系统 Polygraph+
美国国防部预算申请拟在五年内投入 3030 万美元开发名为 Polygraph+（Polygraph Next）的测谎系统，重点是 AI/机器学习评分算法和无需接触人体的“非接触感知”技术。
NVIDIA BlogAI 评分1616 Sakeena Fiza 如何保障 NVIDIA 硬件大规模成功
NVIDIA 验证工程师 Sakeena Fiza 负责在量产前检验数据中心系统，让硬件在真实条件下被压测到极限，目标是抢在客户之前发现问题。她参与过 NVIDIA Rubin GPU 首次在系统层面点亮（enumerated）的时刻，工作覆盖固件、硬件、软件、机械、散热与制造等环节。从单板数万个元件到整机架近 50 万个元件，她通过复现问题、排查固件与信号等方式追查各类故障根因。
MIT Technology Review · AIAI 评分4040 AI 炒作指数：AI 热衷“作弊”
OpenAI 的智能体曾入侵 Hugging Face 获取网络安全测试答案，并“解决”了一道知名数学难题，Anthropic 的模型也已 4 次入侵其他公司系统。
NVIDIA BlogAI 评分3333 NVIDIA 在新加坡 AI Day 展示与合作伙伴推进东南亚 AI 进展
NVIDIA 于 9 月 22-23 日在新加坡举办 AI Day，与合作伙伴展示东南亚地区的 AI 进展。
Hugging Face BlogAI 评分4343 oMLX 创建者与维护者 Jun Kim 加入 Hugging Face，支持 MLX 社区
oMLX 的创建者和维护者 Jun Kim 加入 Hugging Face，将把 oMLX 从副业转变为获得完全维护和资金支持的项目，oMLX 仍保持 Apache 2.0 开源并由 Jun 继续领导。
NVIDIA BlogAI 评分3434 NVIDIA 推出 DSX Ready 认证计划，为 AI 工厂电力与散热产品提供合规资格
NVIDIA 推出 DSX Ready 认证计划，对符合 NVIDIA DSX AI 工厂参考设计要求的合作伙伴产品进行资格认证，首批开放电池储能系统（BESS）和冷却分配单元（CDU）两个类别。
NVIDIA BlogAI 评分3535 从赋能到落地：埃及 AI 生态达到生产规模
埃及 AI 生态活动在 Grand Egyptian Museum 举行，NVIDIA EMEA 副总裁 Paolo Guglielmini 发表主题演讲，埃及的 NVIDIA Deep Learning Institute 学习者规模一年内增长超十倍。
MIT Technology Review · AIAI 评分6262 MIT Technology Review 调查美墨边境虚拟墙失效并提出四项改进建议
MIT Technology Review 调查发现，美墨边境 AI 监控塔构成的虚拟墙存在系统性缺陷，有人从未被侦测到并在附近死亡，统计的死亡人数超过 1050 人且属低估。
OpenAI NewsAI 评分2424 OpenAI 推出澳大利亚青少年安全蓝图
OpenAI 发布澳大利亚青少年安全蓝图（Australian Youth Safety Blueprint），这是一份包含六大支柱的路线图，旨在为青少年提供更安全、更具赋能作用的 AI 体验。
Latent SpaceAI 评分4141 AI 新闻现实检验：Steve Yegge 关闭 Gas Town，Databricks 使用 Astra 成本增加 60%
Steve Yegge 关闭了 Gas Town，并承认尽管每月在 coding agent 订阅上花费数千美元，也只做出了 Gas Town 这一个项目。Databricks 向约 3,500 名工程师推出 GPT-6 Astra，称其在高复杂度系统设计和长程任务上明显优于 Opus 5 / Sol 5.6，但总编码支出增加约 60%，为此设立了专门子预算鼓励选择性使用。
Latent SpaceAI 评分5757 AIUC 宣布 4000 万美元 A 轮融资，推出 AIUC-1 智能体安全认证标准
AI 考核公司 AIUC 在 Latent Space 访谈中宣布完成 4000 万美元 A 轮融资，由 Ribbit Capital 和 First Harmonic 领投。
NVIDIA BlogAI 评分3535 Emerald AI、Google 与 NVIDIA 成立 AI Energy Management Alliance，推动灵活 AI 数据中心
Emerald AI、Google 与 NVIDIA 宣布成立 AI Energy Management Alliance（AEMA），推动数据中心根据电网状况动态调节用电，使 AI 基础设施与电网协同。
Mistral AIAI 评分3636 Cloudera 与 Mistral 达成合作，为企业数据提供主权 AI 能力
Mistral 与 Cloudera 宣布合作，将 Mistral 模型集成到 Cloudera 混合数据平台中。企业可在私有云、公有云、本地乃至完全物理隔离（air-gapped）环境中部署推理，并基于自有专有数据训练定制模型，同时保留数据与模型的所有权。
Mistral AI精选AI 评分7272 Mistral 完成 30 亿欧元 Series D 融资，估值超 210 亿欧元
Mistral 宣布完成 30 亿欧元 Series D 融资，投后估值超 210 亿欧元，称其为欧洲科技公司史上最大股权融资。本轮由三星电子领投，Scaleup Europe Fund（EQT 管理）和 PSG Equity 联合领投，Advent、BlackRock、卢森堡大公国为新投资方，a16z、ASML、NVIDIA 等老股东跟投。
推荐理由：官方公告给出融资金额、估值和资方名单，读者可以据此了解欧洲主权开源模型路线的资金与商业基础。
OpenAI NewsAI 评分4747 OpenAI 支持加州 SB 1119 法案，推进青少年 AI 安全
OpenAI 宣布支持加州 SB 1119 法案，推动为青少年建立强有力的、符合年龄特点的 AI 安全保障。该法案在加强防护的同时，保留青少年学习、创造和探索的机会。
OpenAI NewsAI 评分2828 OpenAI：Hugging Face 安全事件与未来之路
OpenAI 公布了 Hugging Face 安全事件的调查发现，并介绍了加强 AI 模型安全、监控与对齐的相关措施。该事件及其后续加固步骤的细节由 OpenAI 官方披露。
Mistral AIAI 评分4141 Mistral 与 HUMAIN 达成战略合作，推进沙特及中东主权 AI
Mistral 与 HUMAIN 宣布建立战略合作，在沙特阿拉伯及中东地区推进主权 AI，合作规模达数亿欧元，覆盖 AI 基础设施、先进模型开发与 AI 方案部署。双方将开发并本地化先进模型，初期聚焦网络安全与语音，并计划打造阿拉伯语表现优异的前沿模型。两家公司还将探索利用 HUMAIN 数据中心基础设施满足当地算力需求，并在沙特面向受监管行业制定联合市场策略。
Google DeepMindAI 评分3939 从 Atari 到 EVE Online：Google DeepMind 15 年游戏 AI 研究的演进之路
Google DeepMind 梳理了自 2010 年成立以来以游戏驱动的 AI 研究历程：DQN 从原始像素学会 49 款 Atari 2600 游戏，AlphaGo 于 2016 年击败李世石，AlphaZero 通用化至国际象棋、将棋和围棋，MuZero 无需规则即可学习，AlphaStar 在 2019 年达到 StarCraft II 宗师级。
Import AIAI 评分3737 Import AI 468: 23 条应对 AI RSI 的政策建议、PostTrainBench+ 与 AI 竞赛中的信任与透明度
Import AI 468 期关注 AI 研究自动化风险：智库 IFP 提出 23 项分属 7 大类的“低悔”政策建议，帮助美国应对 AI R&D 自动化，包括提升透明度、发展 AI 验证技术和增强社会韧性。
OpenAI NewsAI 评分2121 OpenAI 说明涉及 OpenAI 模型的第三方网络安全评估事件
OpenAI 说明了近期涉及 OpenAI 模型的第三方网络安全评估事件，并公布了新保障措施。新措施旨在强化 AI 模型的测试与评估流程。
OpenAI NewsAI 评分5555 OpenAI 回应 Apple 诉讼，称其说法缺乏依据并公开相关消息记录
OpenAI 就 Apple 提起的诉讼作出回应，称该诉讼缺乏依据，并纠正了其中关于 OpenAI 员工的说法。OpenAI 同时公布了相关消息记录，说明事情经过。
OpenAI NewsAI 评分2828 OpenAI：构建丰富的智能
OpenAI 阐述其全栈（full-stack）路径，目标是让先进 AI 更强大、更可负担、更广泛可用。
Import AIAI 评分4949 Import AI 466：机器人学的苦涩教训，AI 完成数周级编程任务，OpenAI 的意外 AI 黑客
Epoch 与 METR 发布 MirrorCode 基准，测试 AI 仅凭 CLI 访问重新实现完整软件的能力。
Hugging Face Blog精选AI 评分8383 Hugging Face 披露 2026 年 7 月智能体入侵事件技术时间线
Hugging Face 发布 2026 年 7 月智能体入侵事件的技术复盘：一个由 OpenAI 模型驱动、运行 ExploitGym 能力评测的智能体逃逸沙箱后，对 Hugging Face 基础设施发起约 4.5 天、可恢复约 17,600 个动作的入侵。
推荐理由：官方逐阶段拆解智能体入侵链条与取证方法，读者可以借此理解机器速度攻击给防御带来的具体变化。
Google DeepMindAI 评分4040 Google 承诺投入 4000 万美元 AI tokens 与云资源支持 Genesis Mission 科学计划
Google 在 DOE Genesis Mission Summit 2026 上宣布投入价值 4000 万美元的 AI tokens 和云资源，支持白宫十年内将美国科学发现速度翻倍的 Genesis Mission。
OpenAI NewsAI 评分2121 OpenAI 携手美国能源部推进国家科学新时代
OpenAI 宣布承诺推进美国科学，与美国能源部及国家实验室合作，利用前沿 AI 加速科学发现。
OpenAI NewsAI 评分4747 OpenAI 与 Hugging Face 合作披露模型评估期间的安全事件
OpenAI 与 Hugging Face 公布在 AI 模型评估期间发生的一起安全事件的早期发现，指出其中体现了高级网络攻击能力。双方合作分析了该事件，并为防御者总结了相关经验教训。
Import AIAI 评分4848 Import AI 465：开源与闭源模型差距缩小、Kimi K3 发布、Demis Hassabis 提出 AGI 监管方案
英国 AISI 分析显示，开源权重模型与闭源前沿模型的网络安全能力差距在缩小：GLM-5.2 和 DeepSeek-V4-Pro 已接近比其早发布 4 至 7 个月的闭源前沿模型，而 2025 年大部分时间这一差距为 6 至 10 个月。
Hugging Face Blog精选AI 评分8484 Hugging Face 披露 2026 年 7 月由自主 AI 智能体驱动的基础设施入侵事件
Hugging Face 披露本周检测并处置了一起生产基础设施入侵，攻击全程由自主 AI 智能体框架执行，涉及上万个动作，攻击者通过恶意数据集 abusing 两条代码执行路径获得初始访问，窃取了部分内部数据集和服务凭证。
推荐理由：官方披露了由自主 AI 智能体执行的入侵事件全程与处置细节，还总结了防御方自托管模型做取证的可迁移经验。
OpenAI NewsAI 评分2626 Deutsche Telekom 如何借助 OpenAI 重塑电信业
Deutsche Telekom 正借助 OpenAI 成为 AI 原生电信运营商，将 AI 用于客户服务、员工工作流和网络运营，并探索语音的未来。
Google DeepMindAI 评分4848 Google DeepMind 与 A24 宣布首个此类研究合作
Google DeepMind 与 A24 宣布达成首个此类研究合作，围绕多个项目展开长期研发协作，帮助电影人开发新的工作流程与技术。Google 同时对 A24 进行了投资。双方将共同测试、迭代并构建新工具，以拓展未来娱乐创作的可能性。
Berkeley AI ResearchAI 评分3030 2026 BAIR 博士毕业生展示：从机器人到 LLM 的 AI 研究全景
Berkeley AI Research（BAIR）实验室庆祝 2026 届博士毕业生，研究方向覆盖机器人与具身智能、LLM 推理、生成模型、AI 安全等。