跳到正文

#Anthropic

今日 4 条
今天10月2日周五
  1. AWS Machine Learning Blog43

    在 AWS 上为 Claude Platform 实现多环境访问

    AWS 指南介绍了为 Claude Platform on AWS(CPonAWS)配置生产、开发者和外部环境三类访问的完整实现。方案在专用 AI Services 账户中托管订阅,通过跨账户 SigV4 支持工作负载免存 API 密钥调用,开发本地使用 workspace 级 API key 配合 Anthropic SDK,外部环境则经 OIDC 联合认证获取短期凭证,实现零持久凭证。

  2. The Decoder77

    FTC 以消费者保护为由对 OpenAI、Anthropic 等 AI 实验室启动大规模调查

    FTC 以潜在消费者保护违规为由调查 OpenAI、Anthropic 及其他头部 AI 实验室,FTC 主席 Andrew Ferguson 计划通过具法律约束力的 Civil Investigative Demands 强制交出文件并质询高管,命令将在数周内发出,METR 也在被审查之列。

    推荐理由:原文梳理了调查对象、执行手段与时间线,并点出对 labs 可能构成诉讼风险,背景信息较完整。

10月1日周四
  1. The Decoder80

    OpenAI 称已阻止蒸馏窃取其推理链条,但同样手法在 Azure 上仍有效

    OpenAI 称 7 月检测到针对其模型推理内容的提取活动,7 月 24 至 25 日出现超过 4000 名用户的 16000 次请求,涉及 15000 多个关联账号,7 月 28 日已全部封禁,并将其中的核心群体与 Moonshot AI 有关联的人联系起来。

    推荐理由:原文串起 OpenAI 的封禁行动与研究者复测结果,读者可以据此理解云端分发为何让防护出现缺口。

9月30日周三
9月29日周二
9月28日周一
9月27日周日
9月26日周六
  1. Ars Technica · AI59

    美国上诉法院裁定五角大楼可将拒绝开放 Claude 功能的 Anthropic 列入黑名单

    美国哥伦比亚特区联邦巡回上诉法院以 2 比 1 裁定,特朗普政府有权因 Anthropic 拒绝向军方开放部分 AI 功能而将其列入黑名单,即使 Anthropic 并无恶意。法院认为国防部长的决定未越出《供应链安全法》或宪法界限,此前该院已在 4 月驳回 Anthropic 的紧急暂缓申请。

9月25日周五
9月23日周三
9月22日周二
  1. MIT Technology Review · AI49

    别被这个夏天的 AI 炒作迷惑

    MIT Technology Review 评论文章指出,今年夏天 Anthropic 与 OpenAI 的一系列“突破”宣传——包括 Claude Mythos 漏洞挖掘能力、OpenAI 模型 Astra 的数学成果以及黑客入侵事件——在专家审视后大多名不副实:安全专家认为黑客事件源于 OpenAI 忽视基本安全实践,数学家则指控 OpenAI 抄袭和不当署名。

8月3日周一
  1. Import AI48

    Import AI 467:自持自复制的 AI 病毒、AI 进展节奏与 AI 与创造力的困惑

    多伦多大学、Vector Institute、剑桥大学与 ServiceNow 的研究者构建了一个用开源权重 LLM 驱动的自复制计算机蠕虫原型:被攻陷主机的 GPU 上运行 LLM 进行推理,自主发现漏洞并感染新目标,单 GPU(80GB A100)即可运行且不依赖厂商 API。漏洞检测成功率约 80%,利用约 53%,自复制 88%,完整攻击总体成功率约 37%。

7月16日周四
  1. Hugging Face Blog67

    模型路由看似简单实则不然:IBM Research 谈如何把路由当系统优化问题

    IBM Research 团队在博文中提出,模型路由不是分类问题而是系统优化问题。他们在 AppWorld Test Challenge 上用同一 CodeAct agent 跑 417 个任务。

    推荐理由:作者基于 417 个 AppWorld 任务的一手实测说明标价、缓存和基础设施如何左右路由成本,并把路由从分类问题转为优化问题,方法可迁移。

2月13日周五
1月28日周三
  1. Hugging Face Blog67

    Hugging Face 发布 upskill 工具:用 Claude 生成 CUDA 内核技能并迁移给开源模型

    Hugging Face 发布 upskill 工具,用 Claude Opus 4.5 生成和评估 agent 技能,再供更小、更便宜或本地模型使用。流程为用 Claude Code 完成任务并导出 trace、从 trace 生成 SKILL.md 技能文件并自动生成测试用例,然后用 upskill eval 对比模型有无技能的表现。

    推荐理由:原文给出了用大模型生成技能再迁移到小模型的完整流程和实测数字,方法可直接复用于领域任务。

10月7日周二
  1. Hugging Face Blog68

    BigCode 发布 BigCodeArena:通过代码执行端到端评判代码生成模型

    BigCode 发布 BigCodeArena,一个通过真实执行来评判代码生成模型的人类投票平台,支持 10 种语言和 8 种执行环境,开放无需注册。上线 5 个月收集 14K 对话、4700+ 偏好投票,Elo 排名中 o3-mini 和 o1-mini 居首。

    推荐理由:基于5个月社区执行评估数据发布代码生成评测平台,给出分语言和执行环境的模型表现差异与两个新基准。

8月19日周二
11月19日周二
5月3日周五
12月9日周五
  1. Hugging Face Blog64

    Hugging Face 图解 RLHF:用人类反馈强化学习微调语言模型的完整流程

    Hugging Face 发布长文图解 RLHF,将其拆为预训练语言模型、训练奖励模型、用 PPO 微调三个核心步骤。文中说明人类偏好采用排序而非直接打分以降低噪声,奖励函数含 KL 惩罚以防止策略偏离初始模型,并介绍 TRL、TRLX、RL4LMs 等开源工具及代表性论文,同时指出人类标注成本高、标注者分歧等局限。

    推荐理由:这篇官方长文把 RLHF 拆解为预训练、奖励模型和 PPO 微调三步,并梳理开源工具与关键论文,适合建立完整认知。