StarCoder2-15B-Instruct-v0.1 发布：完全透明且许可开放的自对齐代码模型
Hugging Face 团队发布 StarCoder2-15B-Instruct-v0.1，首个采用完全透明、许可开放管线的自对齐代码 LLM，无需人工标注或从专有大模型蒸馏数据。
全部AI 动态
全部动态
今日 12 条Hugging Face BlogAI 评分5858
OpenAI News精选AI 评分6161 OpenAI 宣布 GPT-4 API 全面可用，并公布 Completions API 旧模型退役计划
OpenAI 宣布 GPT-4 API 全面可用，GPT-3.5 Turbo、DALL·E 和 Whisper API 也已全面开放。同时发布 Completions API 旧模型的退役计划，这些旧模型将于 2024 年初退役。
推荐理由：官方宣布 GPT-4 等 API 全面开放并给出旧模型退役计划，开发者可据此调整接入与迁移安排。
OpenAI News精选AI 评分7272 OpenAI 推出 ChatGPT 和 Whisper API
OpenAI 宣布推出 ChatGPT 和 Whisper API。正文内容抓取失败，仅标题可用。
OpenAI NewsAI 评分1212 OpenAI：加速挽救生命的疗法研发
OpenAI 发文称将加速挽救生命疗法的研发。原文未提供更多细节。
Hugging Face BlogAI 评分3838 Hugging Face 推出 Open CoT Leaderboard 链式推理排行榜
Hugging Face 推出 Open CoT Leaderboard，追踪 LLM 生成有效链式推理的能力。榜单不评绝对准确率，而是计算有无 CoT 提示的准确率差值 Δ，以检验 CoT 对准确率的实际影响，并对训练数据污染更稳健。评测采用 LogiQA 和 LSAT 数据集（多数属于 AGIEval），任务以选择题形式呈现，目前已实现 Classic 和 Reflect 两种提示策略。
OpenAI NewsAI 评分2323 OpenAI 为 API 客户端推出更多企业级功能
OpenAI 面向 API 客户端推出更多企业级功能，包括更多安全特性与管控能力、Assistants API 更新，以及更好管理成本的工具。此次更新旨在加强对企业客户的支持。
Hugging Face BlogAI 评分5050 Hugging Face 发布多用途 Transformer 智能体 JAT 及首个通用智能体训练数据集
Hugging Face 发布 JAT，一个基于 Transformer 的多用途智能体项目，包含 Gato 的开放复现：发布了覆盖 Atari、BabyAI、Meta-World、MuJoCo 等环境的大量专家 RL 智能体、首个通用智能体训练数据集 JAT dataset（含数十万条专家轨迹）以及可玩电子游戏、控制机器人、执行导航指令的 JAT 模型。
OpenAI News精选AI 评分6262 OpenAI 提出指令分层：训练 LLM 优先处理特权指令
OpenAI 发布关于指令分层（instruction hierarchy）的工作，目标是训练 LLM 优先处理特权指令。原文指出当前 LLM 易受提示词注入、越狱等攻击，攻击者可用恶意提示词覆盖模型的原始指令。
推荐理由：原文说明指令分层的动机，指出大语言模型易受提示词注入和越狱攻击的问题背景。
Hugging Face BlogAI 评分3838 Hugging Face 推出 Open Medical-LLM Leaderboard：医疗领域大语言模型评测基准
Hugging Face 推出 Open Medical-LLM Leaderboard，为医疗领域大语言模型提供标准化评测平台，以 accuracy 为主要指标，覆盖 MedQA、MedMCQA、PubMedQA 及 MMLU 医学相关子集等多个数据集。
Hugging Face Blog精选AI 评分8383 Meta 发布 Llama 3，8B 与 70B 模型上线 Hugging Face
Meta 发布 Llama 3 开源模型，提供 8B 和 70B 两种规模，各有 base 与 instruct 版本，并附基于 Llama 3 8B 微调的 Llama Guard 2，全部上架 Hugging Face Hub。
推荐理由：官方发布说明完整给出模型规格、许可证变化和部署微调路径，读者可据此评估升级与迁移成本。
Mistral AI精选AI 评分7272 Mistral AI 开源发布 Mixtral 8x22B 稀疏 MoE 模型
Mistral AI 开源发布 Mixtral 8x22B，采用 Apache 2.0 许可证。该稀疏 MoE 模型总参数 141B、激活参数仅 39B，支持英语、法语、意大利语、德语和西班牙语，具备函数调用能力与 64K tokens 上下文窗口，官方称其速度快于任何稠密 70B 模型。
推荐理由：官方给出了参数结构、许可证和基准成绩，读者可据此评估它在大模型开源阵营中的性价比和适用场景。
Hugging Face BlogAI 评分3838 Hugging Face 推出 LiveCodeBench 排行榜：全面且无污染的代码 LLM 评测
UC Berkeley、MIT 和 Cornell 研究者推出 LiveCodeBench 排行榜，通过从 LeetCode、AtCoder、CodeForces 收集并标注发布日期的题目，检测并防止 benchmark 污染。
Hugging Face BlogAI 评分2323 Ryght 借助 Hugging Face 专家支持赋能医疗与生命科学，正式发布 Ryght Preview
医疗与生命科学领域的生成式 AI 平台 Ryght 宣布正式发布 Ryght Preview，现已向所有用户公开。
Hugging Face BlogAI 评分5858 Gradio reload 模式教程：用 gradio app.py 快速迭代 AI 应用
Hugging Face 博客介绍 Gradio 的 reload 模式，用 gradio app.py 代替 python app.py 启动即可在不重启服务器的情况下载入最新代码改动。
Hugging Face BlogAI 评分3535 如何在 Hugging Face Endpoints 上运行隐私保护的 FHE 推理（Concrete ML 教程）
Zama 团队将其基于全同态加密（FHE）的隐私保护机器学习框架 Concrete ML 的预编译模型上线 Hugging Face Endpoints，用户可一键部署 FHE 友好模型（如加密垃圾邮件检测的决策树）并在加密数据上直接推理。
Hugging Face Blog精选AI 评分6565 Hugging Face 发布 Idefics2：面向社区的 8B 视觉语言模型，采用 Apache 2.0 许可
Hugging Face 发布通用多模态模型 Idefics2，参数量 8B，权重以 Apache 2.0 许可开源，支持任意图文序列输入，可回答图像问题、描述视觉内容、从文档提取信息和执行基础算术。
推荐理由：官方发布 8B 开源多模态模型并给出基准对比和训练数据，读者可以直接在 Hub 和 transformers 中上手微调。
OpenAI NewsAI 评分3939 OpenAI 宣布成立 OpenAI Japan
OpenAI 宣布开设首家亚洲办公室 OpenAI Japan，并针对日语推出定制优化的 GPT-4 模型。这是该公司首次在亚洲设立办公室，标志着其日本市场布局的落地。
Hugging Face BlogAI 评分5656 Hugging Face 讲解视觉语言模型原理、选型与 TRL 微调方法
Hugging Face 发布视觉语言模型入门教程，介绍其图像编码器、投影层与文本解码器等核心结构，并列出 LLaVA 1.6、KOSMOS-2、Qwen-VL 等开源模型。
Hugging Face BlogAI 评分5050 Hugging Face Hub 推出 Deploy on Google Cloud，可一键部署开源模型到 Vertex AI 和 GKE
Hugging Face 宣布在 Hub 上推出 Deploy on Google Cloud 集成，可将数千个基础模型通过 Vertex AI 或 GKE 部署到用户自己的 Google Cloud 账户中。
Hugging Face Blog精选AI 评分6565 Google 发布代码模型 CodeGemma，提供 2B 与 7B 三个开放版本
Google 与 Hugging Face 合作发布 CodeGemma，包含专注代码填充的 2B 基座、混合代码与自然语言的 7B 基座，以及 7B Instruct 对话版本，均支持 8K 上下文。
推荐理由：原文给出三个模型规格、基准对比与 FIM 提示词格式，读者可以据此选择适合延迟、显存或对话场景的版本。
OpenAI NewsAI 评分2424 Klarna 的 AI 助手完成相当于 700 名全职客服的工作
Klarna 的 AI 助手承担了相当于 700 名全职客服的工作量。该助手被用于革新个人购物、客户服务和员工生产力。
Hugging Face BlogAI 评分5353 Hugging Face 与 Wiz 合作加强平台与 AI 生态安全
Hugging Face 宣布与云安全公司 Wiz 合作，已集成 Wiz 用于漏洞管理和云安全态势管理，并自动修复 Spaces 中的问题。Wiz 研究人员通过 pickle 发现其沙箱计算环境的缺陷，相关漏洞已全部修复。官方建议用户在生产环境弃用 pickle、改用 Safetensors，并警告 pickle 未来可能不再受支持。
Hugging Face BlogAI 评分4545 使用 Hugging Face Dataset Viewer API 与 MotherDuck DuckDB-NSQL-7B 实现 Text2SQL
DuckDB-NSQL-7B 是 MotherDuck 和 Numbers Station 专为 DuckDB SQL 推出的 text2SQL 模型，基于 Meta 的 Llama-2-7b 微调，可生成包括 SELECT 在内的多种有效 DuckDB SQL 语句。
OpenAI NewsAI 评分2525 OpenAI 推出 fine-tuning API 改进并扩展自定义模型计划
OpenAI 为 fine-tuning API 新增多项功能，帮助开发者更精细地控制微调流程，同时宣布扩展自定义模型（custom models）计划的合作方式，为开发者提供更多基于 OpenAI 模型构建定制模型的选择。
Hugging Face BlogAI 评分3838 用 🤗 Optimum Intel 在 Xeon 上实现 SetFit 极速推理
SetFit 是 Hugging Face 与 Intel Labs、UKP Lab 合作开发的少样本微调框架，在 Banking 77 数据集上，5-shot 表现优于 3-shot GPT-4，无需提示词且训练推理速度比 LLM 方法快一个数量级以上。
OpenAI NewsAI 评分3333 OpenAI 与 Harvey 合作为法律专业人士定制训练模型
Harvey 与 OpenAI 合作，为法律专业人士构建一个定制训练的模型。该合作将 OpenAI 的模型能力与 Harvey 在法律领域的应用经验结合，打造面向法律行业的专属模型。
Hugging Face BlogAI 评分3737 Hugging Face 携手 Cloudflare Workers AI 推出 Serverless GPU 推理部署
Hugging Face Hub 推出 Deploy on Cloudflare Workers AI 集成，将 Llama 2 7B、Gemma、Mistral 等热门开源模型以 serverless API 形式部署在 Cloudflare 边缘数据中心的 GPU 上，采用按请求付费模式。
OpenAI News精选AI 评分6666 OpenAI 免注册即可直接使用 ChatGPT
OpenAI 宣布用户无需注册账号即可直接开始使用 ChatGPT，让更多人无需注册就能体验 AI 的好处。
推荐理由：官方宣布免注册即可使用 ChatGPT，降低了普通用户体验 AI 的门槛。
OpenAI NewsAI 评分2121 Oscar 将 AI 引入健康保险，降低成本并改善患者护理
Oscar 在健康保险业务中应用 AI，降低成本并改善患者护理。OpenAI 发布消息称，该公司的 AI 应用在保险场景中实现了降本与提升患者护理质量的双重效果。
OpenAI NewsAI 评分4343 OpenAI 分享 Voice Engine 合成语音的挑战与机遇
OpenAI 分享了 Voice Engine 小规模预览的经验教训。Voice Engine 是一款用于创建自定义语音的模型，此次分享聚焦合成语音技术带来的挑战与机遇。
OpenAI NewsAI 评分1919 Zelma 用 GPT-4 让教育数据更易获取
教育数据平台 Zelma 使用 GPT-4 让教育数据更易于访问。
Hugging Face BlogAI 评分4343 Pollen Robotics 开源 pollen-vision：机器人零样本视觉模型统一接口
开源人形机器人 Reachy 的开发商 Pollen Robotics 发布开源库 pollen-vision，提供面向机器人的零样本视觉模型统一接口，无需训练即可开箱使用。
OpenAI NewsAI 评分1717 OpenAI 早期试用印象：Sora first impressions
自 Sora 上月亮相以来，OpenAI 一直与艺术家合作，探索 Sora 如何辅助他们的创作过程。 (注：正文仅一句话，摘要按原文事实压缩，未添加任何细节。标题中"OpenAI"为来源明确给出的主体，"初体验/印象"保留原标题的 impressions 类型，不改为"发布"。)
Hugging Face Blog精选AI 评分6868 Hugging Face 介绍二值与标量 Embedding 量化，显著加速检索并降低成本
Hugging Face 博客介绍 embedding 量化方法，展示二值量化可将内存与磁盘占用降至 1/32、检索最快提速 45x，配合 rescoring 可保留约 96% 的检索性能；int8 标量量化占用为 1/4、平均提速 3.66x。
推荐理由：原文给出 embedding 量化的原理、代码与实测数据，读者可以照此在检索场景中权衡内存、速度与精度。
Hugging Face BlogAI 评分3333 Hugging Face Transformers 新手入门指南
Hugging Face 发布面向非技术读者的 Transformers 入门教程，手把手演示如何在 Hugging Face Space 的 JupyterLab notebook 中运行微软的 Phi-2 大语言模型。
OpenAI NewsAI 评分2222 JetBrains 将 AI 嵌入开发者软件，借助 OpenAI API 打造其史上增长最快的产品
JetBrains 使用 OpenAI 的 API 将 AI 嵌入开发者软件，打造出公司历史上增长最快的产品。通过集成 OpenAI API，JetBrains 在其开发者工具中加入了 AI 能力。
Hugging Face BlogAI 评分4646 Lighthouz AI 联合 Hugging Face 推出 Chatbot Guardrails Arena
Lighthouz AI 与 Hugging Face 合作推出 Chatbot Guardrails Arena，让用户与两个匿名、带 guardrails 的聊天机器人对话，尝试套取虚构银行 XYZ001 客户的姓名、SSN、账号、余额等敏感信息并投票，结果将以 Elo 评分汇入公开排行榜。
Hugging Face Blog精选AI 评分6464 Hugging Face 介绍 GaLore：在消费级 GPU 上训练大语言模型的内存优化方法
Hugging Face 官方博客介绍 GaLore 如何利用梯度低秩结构降低训练内存，支持在 RTX 4090 等消费级 GPU 上预训练 Llama 架构 7B 模型。优化器状态内存可减少超过 82.5%，可与 8-bit 优化器结合，并支持通过 transformers>=4.39.0 和 galore-torch 使用 galore_adamw 等优化器及 _layerwise 逐层更新。
推荐理由：原文给出GaLore在消费级硬件上预训练7B模型的方法细节和Transformers接入方式，可迁移到实际训练工作流。
Hugging Face Blog精选AI 评分6060 Hugging Face 发布 Cosmopedia：详解如何为预训练大语言模型生成大规模合成数据
Hugging Face 发布 Cosmopedia，一个由 Mixtral-8x7B-Instruct-v0.1 生成的合成数据集，含超 3000 万文件、250 亿 token，旨在复现 Phi-1.5 的训练数据。
推荐理由：官方详解大规模预训练合成数据的构建流程，提示词策划、聚类与去污染方法均可迁移到类似的数据生成项目。
Hugging Face BlogAI 评分5858 在 Intel Meteor Lake 笔记本上本地运行 Phi-2 聊天机器人
Hugging Face 教你在搭载 Intel Core Ultra 7 155H 的笔记本上本地运行 Microsoft Phi-2：用 Optimum Intel 集成的 OpenVINO 对模型权重做 4-bit 量化（80% 权重 4-bit、其余 8-bit），在 Meteor Lake 的 iGPU 上推理。