跳到正文

全部动态

今日 7 条
6月12日周四
6月11日周三
  1. Mistral AI53

    Mistral AI 发布 AI 基础设施服务 Mistral Compute

    Mistral AI 发布 Mistral Compute,向客户提供私有集成 AI 基础设施,涵盖 GPU、编排、API、产品和服务,形态从裸金属服务器到全托管 PaaS。作为 NVIDIA 合作伙伴,初期提供数万块 GPU 并计划快速扩张,面向欧洲、中东、亚洲及南半球的主权、企业和研究机构,强调数据主权、欧洲合规与脱碳能源,已有 Orange、BNP Paribas、Thales 等启动伙伴。

6月10日周二
6月9日周一
6月6日周五
  1. OpenAI News64

    OpenAI 抵制纽约时报提出的用户数据保留要求以保护隐私

    OpenAI 表示正在对抗一项应纽约时报及原告要求发出的法院命令,该命令要求无限期保留消费级 ChatGPT 和 API 用户数据。OpenAI 称将努力维护用户隐私、满足法律要求并遵守其数据保护承诺。

    推荐理由:原文说明 OpenAI 为何抵制纽约时报提出的数据保留要求,读者可以了解这一法院命令对用户隐私的影响。

6月5日周四
6月4日周三
  1. Hugging Face Blog57

    Hugging Face 在 nanoVLM 中从零实现 KV Caching

    Hugging Face 在 nanoVLM 仓库中从零实现 KV Caching,生成速度提升 38%。文章讲解自回归生成中重复计算 K/V 的冗余来源,展示通过逐层缓存字典、start_pos 位置对齐以及将 generate 循环拆分为 prefill 和 decode 两阶段来消除冗余计算,并指出这是速度与显存之间的权衡。

6月3日周二
6月1日周日
5月29日周四
5月28日周三
  1. Hugging Face Blog60

    Hugging Face 提出 Structured CodeAgent:用结构化生成提升代码智能体可靠性

    Hugging Face 发布研究,让 CodeAgent 以强制 JSON 结构同时生成 thoughts 和 code,在 GAIA、MATH、SimpleQA、Frames 等基准上比常规 CodeAgent 平均高出 2-7 个百分点。

    推荐理由:原文给出结构化输出结合 CodeAgent 的实测数据与适用边界,读者可据此判断自己的模型规模是否适合启用该方案。

5月27日周二
5月25日周日
5月23日周五
5月22日周四
5月21日周三
  1. Mistral AI70

    Mistral AI 与 All Hands AI 联合发布开源编码模型 Devstral

    Mistral AI 与 All Hands AI 联合发布面向软件工程任务的智能体模型 Devstral,以 Apache 2.0 许可开源,在 SWE-Bench Verified 上取得 46.8%,超过此前开源 SoTA 6 个百分点以上,并超越 GPT-4.1-mini 超过 20%。

    推荐理由:原文给出 SWE-Bench Verified 具体分数和部署门槛,可判断这款开源编码模型在本地与隐私场景的可行性。

  2. Hugging Face Blog62

    Hugging Face Diffusers 量化后端实战:以 Flux-dev 为例对比 BnB、torchao、Quanto、GGUF 与 FP8

    Hugging Face 发布 Diffusers 量化后端解读文章,以 black-forest-labs/FLUX.1-dev 为例实测 bitsandbytes、torchao、Quanto、GGUF 和 FP8 Layerwise Casting 五种方案。

    推荐理由:文章系统对比了 Diffusers 各量化后端在 Flux-dev 上的内存、速度与画质差异,并给出选型建议和可复现代码。

5月19日周一