OpenAI 在法国开设欧洲大陆首个办公室
OpenAI 在法国设立办公室,这是其欧洲大陆的首个办公地点。此次布局标志着 OpenAI 在欧洲的业务拓展进一步落地。
OpenAI 在法国设立办公室,这是其欧洲大陆的首个办公地点。此次布局标志着 OpenAI 在欧洲的业务拓展进一步落地。
雅诗兰黛集团(The Estée Lauder Companies)使用 ChatGPT Enterprise 和自定义 GPT 分析消费者数据、挖掘洞察,加速美妆产品创新。OpenAI 展示了该企业级应用在数据驱动美容与创意领域的实际落地方式。
Hugging Face Hub 提供数据集托管与分享服务,可承载 TB 级数据集,Xet 团队正将单文件上限从 50 GB 提升至 500 GB。平台内置 Dataset Viewer(支持全文搜索和排序)、SQL Console,并兼容 Pandas、Spark、DuckDB 等第三方库,多数库一行代码即可加载或流式读取数据集。
Mistral 在 La Plateforme 上推出 Batch API,用于高吞吐量批量请求,价格比同步 API 调用低 50%。用户上传批处理文件,处理完成后下载输出文件即可,适用于情感分析、批量文档摘要与翻译、向量嵌入和数据标注等场景。该 API 支持平台上所有模型,每个工作区限 100 万个进行中请求,即将登陆云服务商伙伴平台。
Mistral AI 发布内容审核 API,与 Le Chat 的审核服务使用同一 API。该模型是基于 LLM 的分类器,可将文本输入分为 9 个类别,提供原始文本和对话内容两个端点,原生支持阿拉伯语、中文、英语、法语等 11 种语言。API 可帮助用户针对具体应用场景定制安全标准,政策类别涵盖不合格建议和 PII 等模型生成危害。
Hugging Face 发布 PyCharm 集成功能,开发者可在 IDE 内右键插入 HF 模型并自动获取示例代码。文章演示了用 microsoft/Phi-3.5-vision-instruct 十分钟内搭建图文对话应用,并介绍了悬停即显模型卡、本地模型缓存查看与清理等功能。该集成为 PyCharm Professional 专属,可用 PyCharm4HF 兑换 3 个月免费订阅。
Argilla 推出 2.4 新功能,无需写代码即可从 Hugging Face Hub 导入数据集并收集人工反馈。在 Argilla UI 中点击导入按钮即可开始,系统会根据数据集特征自动生成初始配置,可添加标签、评分、排序等问题;当前仅支持公开数据集,私有数据集支持尚未提供。该功能降低了领域专家参与数据集建设的门槛,部署推荐使用 Spaces 并默认启用 Hugging Face OAuth。
OpenAI 发布 ChatGPT search,可为用户提供快速、及时的答案,并附上相关网页来源链接。
推荐理由:OpenAI 官方宣布 ChatGPT 支持联网搜索并附来源链接,读者可据此了解其获取及时信息的新方式。
Promega 自上而下在全公司采用 ChatGPT,加快了制造、销售和营销环节的工作效率。
OpenAI 推出事实性基准 SimpleQA,用于衡量语言模型回答简短事实性问题的能力。
Decagon 与 OpenAI 合作,在大规模场景下提供高性能、完全自动化的客户支持服务。
Intel Labs 与 Hugging Face 推出 Universal Assisted Generation(UAG),通过双向 tokenizer 翻译让辅助生成不再要求目标模型与助手模型共享同一 tokenizer,可将任意 decoder 或 MoE 模型的推理加速 1.5x-2.0x 且几乎零开销。
推荐理由:原文解释了跨 tokenizer 助手模型的实现原理并给出多组加速数据,还提供 Transformers 4.46.0 的可用代码。
Digital Green 与 Hugging Face Expert Support 合作,为面向小农户的农业问答机器人 Farmer.chat 搭建了 LLM-as-a-judge 评测体系,覆盖提示词清晰度、问题类型、回答率和 RAG 准确性等指标,LLM 评分与约 360 题的人工评估高度相关。
Cohere For AI 发布 Aya Expanse 8B 和 32B 开源权重模型。在 Arena-Hard-Auto 23 语言成对对比中,Aya Expanse 32B 胜过 Gemma 2 27B。
OpenAI 发布论文,对连续时间一致性模型做了简化、稳定化和规模化,仅用两个采样步骤即可达到与领先扩散模型相当的样本质量。
Hugging Face 发布 HUGS(Hugging Face Generative AI Services),为在自有基础设施中部署开源模型提供零配置的优化推理微服务。
Google DeepMind 与 Hugging Face 在 Transformers v4.46.0 中发布 SynthID Text,可通过 g-function 与 tournament sampling 为任意 LLM 的 model.generate() 输出添加人眼不可见的水印。
推荐理由:原文给出水印的实现方式、配置参数与检测训练流程,开发者可以据此把 SynthID Text 接入现有生成调用。
Hugging Face 等团队发布长视频问答数据集 CinePile 2.0,核心改进来自其提出的对抗式数据精炼方法。初代 CinePile 于 2024 年 5 月上线,含约 300,000 训练样本和 5,000 测试样本,人类成绩曾领先最佳商业视觉模型 25%、开源模型 65%。
OpenAI 与 Lenfest Institute 合作推出 AI Collaborative and Fellowship 项目。目前公开信息有限,仅见 OpenAI News 发布的这一合作项目公告,具体内容、参与方式与资助细节尚未展开。
dottxt 与 Hugging Face 合作推出 outlines-core 0.1.0,将 Outlines 结构化生成核心算法移植到 Rust 并提供 Python 绑定。索引编译速度平均提升 2x,且通过 Rust 提前编译消除了此前 Numba JIT 带来的首次运行延迟。该库轻量、关注点分离,未来可绑定到 Python 之外的语言,方便更多库集成结构化生成。
Hugging Face 的 Speech-to-Speech(S2S)项目通过 VAD、STT、语言模型和 TTS 组成的级联 pipeline 实现语音对话,支持英、法、西、中、日、韩六种语言及自动语言检测。
Hugging Face 发布 Transformers.js v3,经一年多开发后正式推出,WebGPU 加速可比 WASM 快至 100 倍,支持架构总数达 120 个,Hub 上预转换模型超过 1200 个。
推荐理由:官方发布说明给出 WebGPU 加速、量化选项和迁移方式,读者可以据此评估是否升级到 v3。
Stable Diffusion 3.5 Large 发布,提供 8B 基础版和 8B timestep-distilled 版两个 checkpoint,模型已在 Hugging Face Hub 开放并可在 🧨 Diffusers 中使用。
推荐理由:原文给出 Diffusers 中推理、量化加载和低显存训练 LoRA 的具体做法,读者可以直接照着在消费级硬件上使用 8B 模型。
Hugging Face 宣布与 Protect AI 合作,将后者的 Guardian 集成为第三方扫描器,自动扫描所有公开模型仓库。Guardian 可捕获 pickle 序列化和 Keras Lambda 层等格式中的任意代码执行漏洞,扫描结果已在新版前端展示,示例见 mcpotato/42-eicar-street;目前因超过 100 万模型仓库,部分模型可能暂未显示扫描结果。
Llama 3.2 两周前登陆 Hugging Face/Transformers,而 Keras 从第一天起就支持它,可直接从 safetensors 格式的 Hugging Face checkpoint 加载,如 "hf://meta-llama/Llama-3.2-1B-Instruct"。
Mistral AI 在 Mistral 7B 发布一周年之际推出端侧模型 Ministral 3B 和 Ministral 8B,主打设备端与边缘场景,官方称两者在 sub-10B 级别的知识、常识、推理、function-calling 和效率上达到新水平。
推荐理由:官方公布了两个端侧模型的能力定位、上下文长度、API 定价与权重许可,读者可据此评估本地推理场景的选型。
Hugging Face 修复 transformers 中梯度累积下默认损失函数计算错误的问题,此前开启与关闭梯度累积的训练损失不一致。对于因果 LM 等词元级任务,正确做法是所有 batch 损失求和后除以全部非填充 token 数,而非对每个 batch 损失取平均。
OpenAI 发布了对 ChatGPT 公平性的评估,分析其如何根据用户姓名作出不同回应。为保护隐私,OpenAI 使用 AI 研究助手开展这项分析,避免使用真人数据。
OpenAI 推出 MLE-bench,一个用于衡量 AI 智能体在机器学习工程任务上表现的评测基准。该基准目前仅随发布消息公布,具体评测任务与结果尚未在文中给出。
Hugging Face 委托 Trail of Bits 对 Gradio 5 进行独立安全审计,发现的漏洞已在 Gradio 5.0 发布前全部修复,完整报告已公开。
AMD 发布基于 Zen5 架构的第 5 代服务器级 EPYC CPU(代号 Turin),核心数最高达 192 核 384 线程。Hugging Face 与 AMD 合作验证了该平台上 LLM 与 RAG 场景的支持,并通过 AMD ZenDNN PyTorch 插件(zentorch)配合 torch.compile 加速推理。
Hugging Face 宣布 Gradio 5 稳定版发布,目标是让开发者用几行 Python 构建可上生产的机器学习 Web 应用。
推荐理由:官方宣布 Gradio 5 稳定版,列出性能、UI、流式与安全等具体改动和升级命令,开发者可据此评估迁移与使用。
Hugging Face 博客发布教程,演示如何用 Dask 和 Coiled 把 FineWeb-Edu 分类器推理从 pandas 处理 100 行扩展到云端多 GPU 并行处理 2.11 亿行。
OpenAI 与 Hearst 达成内容合作,后者的知名媒体品牌将为 OpenAI 产品提供精选生活方式与本地新闻内容。
Intel labs 与 Hugging Face 提出动态推测解码,通过基于草稿模型置信度阈值动态调整每轮推测 lookahead,文本生成最高加速 2.7x,并从 Transformers 4.45.0 起成为辅助生成的默认模式。
Hugging Face Xet 团队研究提升 Hub 上 Parquet 文件的存储去重效率,目前 Hub 上 Parquet 文件占用超过 2.2PB 存储。
Hugging Face 推出 Open FinLLM Leaderboard,一个专为金融领域设计的大模型评测榜单,填补通用 NLP 基准难以评估金融任务的空白。榜单覆盖信息提取、文本分析、问答、文本生成、预测、风险管理和决策七大类任务,采用 Accuracy、F1、ROUGE、MCC 等指标。评测采用 zero-shot 方式,测试模型在未见过的金融任务上的泛化能力。
OpenAI 宣布推出 canvas,一种与 ChatGPT 进行写作和编码的新方式。
推荐理由:官方宣布 ChatGPT 推出 canvas 界面,可用于写作和编码,产品发布信息明确。
OpenAI 在获得 66 亿美元新融资之外,与多家主要银行建立了 40 亿美元的信贷额度。参与银行包括 JPMorgan Chase、Citi、Goldman Sachs、Morgan Stanley、Santander、Wells Fargo、SMBC、UBS 和 HSBC。
推荐理由:原文给出新增信贷额度和参与银行名单,可作为理解 OpenAI 此轮融资后资金安排的补充事实。
Hugging Face 博客发文综述中国 AI 企业的全球化扩张。截至 2024 年,全球 1500 家活跃 AI 公司中 751 家在中国,其中 103 家已出海。