跳到正文

Anthropic / Claude

Anthropic 的全部动态:Claude 系列模型、Claude Code、安全研究路线与公司进展的持续追踪。

最新精选

第 1–8 条 · 共 8 条
今天10月2日周五
  1. The Decoder77

    FTC 以消费者保护为由对 OpenAI、Anthropic 等 AI 实验室启动大规模调查

    FTC 以潜在消费者保护违规为由调查 OpenAI、Anthropic 及其他头部 AI 实验室,FTC 主席 Andrew Ferguson 计划通过具法律约束力的 Civil Investigative Demands 强制交出文件并质询高管,命令将在数周内发出,METR 也在被审查之列。

    推荐理由:原文梳理了调查对象、执行手段与时间线,并点出对 labs 可能构成诉讼风险,背景信息较完整。

10月1日周四
  1. The Decoder80

    OpenAI 称已阻止蒸馏窃取其推理链条,但同样手法在 Azure 上仍有效

    OpenAI 称 7 月检测到针对其模型推理内容的提取活动,7 月 24 至 25 日出现超过 4000 名用户的 16000 次请求,涉及 15000 多个关联账号,7 月 28 日已全部封禁,并将其中的核心群体与 Moonshot AI 有关联的人联系起来。

    推荐理由:原文串起 OpenAI 的封禁行动与研究者复测结果,读者可以据此理解云端分发为何让防护出现缺口。

9月29日周二
9月23日周三
2月13日周五
1月28日周三
  1. Hugging Face Blog67

    Hugging Face 发布 upskill 工具:用 Claude 生成 CUDA 内核技能并迁移给开源模型

    Hugging Face 发布 upskill 工具,用 Claude Opus 4.5 生成和评估 agent 技能,再供更小、更便宜或本地模型使用。流程为用 Claude Code 完成任务并导出 trace、从 trace 生成 SKILL.md 技能文件并自动生成测试用例,然后用 upskill eval 对比模型有无技能的表现。

    推荐理由:原文给出了用大模型生成技能再迁移到小模型的完整流程和实测数字,方法可直接复用于领域任务。

10月7日周二
  1. Hugging Face Blog68

    BigCode 发布 BigCodeArena:通过代码执行端到端评判代码生成模型

    BigCode 发布 BigCodeArena,一个通过真实执行来评判代码生成模型的人类投票平台,支持 10 种语言和 8 种执行环境,开放无需注册。上线 5 个月收集 14K 对话、4700+ 偏好投票,Elo 排名中 o3-mini 和 o1-mini 居首。

    推荐理由:基于5个月社区执行评估数据发布代码生成评测平台,给出分语言和执行环境的模型表现差异与两个新基准。

12月9日周五
  1. Hugging Face Blog64

    Hugging Face 图解 RLHF:用人类反馈强化学习微调语言模型的完整流程

    Hugging Face 发布长文图解 RLHF,将其拆为预训练语言模型、训练奖励模型、用 PPO 微调三个核心步骤。文中说明人类偏好采用排序而非直接打分以降低噪声,奖励函数含 KL 惩罚以防止策略偏离初始模型,并介绍 TRL、TRLX、RL4LMs 等开源工具及代表性论文,同时指出人类标注成本高、标注者分歧等局限。

    推荐理由:这篇官方长文把 RLHF 拆解为预训练、奖励模型和 PPO 微调三步,并梳理开源工具与关键论文,适合建立完整认知。