跳到正文

#大佬观点

今日 0 条
10月1日周四
9月30日周三
9月29日周二
  1. Simon Willison25

    OpenAI Agent 安全负责人 @joedaroo 谈 AI 能力突跳对组织安全准备的挑战

    OpenAI 从事 Agent 安全工作的 @joedaroo 表示,模型在“cyber”、"swarming"、“message boards”等能力上的跳升速度之快出乎意料,而安全态势的建立需要时间,必须融入公司文化。他呼吁各组织反思:人员、系统和流程是否能应对 AI 能力的突然跳升,是否具备相应的事件响应与沟通机制。

9月28日周一
9月26日周六
  1. Simon Willison38

    John Gruber 谈 Meta Muse:可爱外表下的强大与危险

    John Gruber 评价 Meta 的 Muse:它为每位用户提供运行在 Meta 云端的专属持久 Linux VM,是首个消费者可用的 agentic AI 系统,安装使用简单、以吉祥物形象呈现。但他警告,消费者可能并未意识到 Muse 有多强大、因而多危险,尤其是运行在 Mac 上时。

9月25日周五
9月22日周二
  1. MIT Technology Review · AI49

    别被这个夏天的 AI 炒作迷惑

    MIT Technology Review 评论文章指出,今年夏天 Anthropic 与 OpenAI 的一系列“突破”宣传——包括 Claude Mythos 漏洞挖掘能力、OpenAI 模型 Astra 的数学成果以及黑客入侵事件——在专家审视后大多名不副实:安全专家认为黑客事件源于 OpenAI 忽视基本安全实践,数学家则指控 OpenAI 抄袭和不当署名。

8月31日周一
8月3日周一
  1. Import AI48

    Import AI 467:自持自复制的 AI 病毒、AI 进展节奏与 AI 与创造力的困惑

    多伦多大学、Vector Institute、剑桥大学与 ServiceNow 的研究者构建了一个用开源权重 LLM 驱动的自复制计算机蠕虫原型:被攻陷主机的 GPU 上运行 LLM 进行推理,自主发现漏洞并感染新目标,单 GPU(80GB A100)即可运行且不依赖厂商 API。漏洞检测成功率约 80%,利用约 53%,自复制 88%,完整攻击总体成功率约 37%。

7月16日周四
  1. Hugging Face Blog67

    模型路由看似简单实则不然:IBM Research 谈如何把路由当系统优化问题

    IBM Research 团队在博文中提出,模型路由不是分类问题而是系统优化问题。他们在 AppWorld Test Challenge 上用同一 CodeAct agent 跑 417 个任务。

    推荐理由:作者基于 417 个 AppWorld 任务的一手实测说明标价、缓存和基础设施如何左右路由成本,并把路由从分类问题转为优化问题,方法可迁移。

7月7日周二
4月21日周二
  1. Hugging Face Blog60

    Hugging Face 谈 AI 与网络安全的未来:为什么开放性至关重要

    Hugging Face 发文分析网络安全进入 AI 加速时代后的格局,认为关键在于模型所嵌入的系统而非模型本身,开放生态可在检测、验证、协调、补丁四个阶段分散风险、缩小攻防能力差距。文章主张防御方采用半自主 AI 智能体,配合开源安全工具在组织内部署,并保留人类审批与可审计的决策日志。

    推荐理由:原文从 Mythos 出发分析开放生态为何是防御方的结构性优势,并给出半自主智能体的可行防御路线。

10月30日周四
4月4日周五
  1. Hugging Face Blog55

    Gradio 月活开发者突破 100 万,团队复盘五年增长经验

    Hugging Face 团队宣布 Gradio 每月有超过 100 万开发者使用,并复盘五年增长经验。核心做法包括以 Gradio Blocks 等低层原语代替高层抽象(gr.Blocks 占 80% 用量)、用 share links 一行代码实现应用传播、聚焦机器学习 Web 应用这一细分场景、不设路线图只做快速迭代,以及让每个应用同时生成 API 端点以便本地部署或程序化调用。

1月28日周二
  1. Hugging Face Blog57

    Hugging Face 启动 Open-R1 项目,系统复现 DeepSeek-R1 训练流程

    Hugging Face 发布博客宣布启动 Open-R1 项目,目标是在开放环境下重建 DeepSeek-R1 的数据与训练流程。博客解释了 DeepSeek-R1 基于DeepSeek-V3 的两阶段训练方法,包括 R1-Zero 用 GRPO 纯强化学习训练和 R1 的冷启动微调加多轮 RL 提炼,并指出 DeepSeek 未公开训练数据、训练代码和超参数细节。

7月1日周六
11月23日周三
6月14日周二
  1. Hugging Face Blog22

    机器学习总监洞察系列第三篇:金融版

    Hugging Face 机器学习总监洞察系列第三篇聚焦金融行业,访谈来自 U.S. Bank、加拿大皇家银行(RBC)、Moody's Analytics 及前 Bloomberg AI 研究科学家的专家。受访总监指出金融机构面临遗留系统、模型可解释性、客户信任与强监管等挑战,并分享了 ML 在贷款审批等金融决策中引发的信任讨论,以及 KPI 与标签定义错位等常见落地失误。