跳到正文

全部动态

今日 36 条
11月15日周五
11月13日周三
11月12日周二
11月7日周四
  1. Mistral AI49

    Mistral 推出 Batch API,价格比同步调用低 50%

    Mistral 在 La Plateforme 上推出 Batch API,用于高吞吐量批量请求,价格比同步 API 调用低 50%。用户上传批处理文件,处理完成后下载输出文件即可,适用于情感分析、批量文档摘要与翻译、向量嵌入和数据标注等场景。该 API 支持平台上所有模型,每个工作区限 100 万个进行中请求,即将登陆云服务商伙伴平台。

  2. Mistral AI44

    Mistral AI 发布内容审核 API,与 Le Chat 审核服务同源

    Mistral AI 发布内容审核 API,与 Le Chat 的审核服务使用同一 API。该模型是基于 LLM 的分类器,可将文本输入分为 9 个类别,提供原始文本和对话内容两个端点,原生支持阿拉伯语、中文、英语、法语等 11 种语言。API 可帮助用户针对具体应用场景定制安全标准,政策类别涵盖不合格建议和 PII 等模型生成危害。

11月5日周二
  1. Hugging Face Blog51

    Hugging Face 集成登陆 PyCharm,可在 IDE 内直接插入开源模型

    Hugging Face 发布 PyCharm 集成功能,开发者可在 IDE 内右键插入 HF 模型并自动获取示例代码。文章演示了用 microsoft/Phi-3.5-vision-instruct 十分钟内搭建图文对话应用,并介绍了悬停即显模型卡、本地模型缓存查看与清理等功能。该集成为 PyCharm Professional 专属,可用 PyCharm4HF 兑换 3 个月免费订阅。

11月4日周一
  1. Hugging Face Blog52

    Argilla 2.4 上线无代码功能,可直接在 Hub 数据集上构建微调与评测数据集

    Argilla 推出 2.4 新功能,无需写代码即可从 Hugging Face Hub 导入数据集并收集人工反馈。在 Argilla UI 中点击导入按钮即可开始,系统会根据数据集特征自动生成初始配置,可添加标签、评分、排序等问题;当前仅支持公开数据集,私有数据集支持尚未提供。该功能降低了领域专家参与数据集建设的门槛,部署推荐使用 Spaces 并默认启用 Hugging Face OAuth。

10月31日周四
  1. OpenAI News77

    OpenAI 发布 ChatGPT search

    OpenAI 发布 ChatGPT search,可为用户提供快速、及时的答案,并附上相关网页来源链接。

    推荐理由:OpenAI 官方宣布 ChatGPT 支持联网搜索并附来源链接,读者可据此了解其获取及时信息的新方式。

10月30日周三
10月29日周二
  1. Hugging Face Blog65

    Intel Labs 与 Hugging Face 推出 Universal Assisted Generation,跨模型家族加速解码 1.5x-2.0x

    Intel Labs 与 Hugging Face 推出 Universal Assisted Generation(UAG),通过双向 tokenizer 翻译让辅助生成不再要求目标模型与助手模型共享同一 tokenizer,可将任意 decoder 或 MoE 模型的推理加速 1.5x-2.0x 且几乎零开销。

    推荐理由:原文解释了跨 tokenizer 助手模型的实现原理并给出多组加速数据,还提供 Transformers 4.46.0 的可用代码。

10月28日周一
10月24日周四
10月23日周三
  1. Hugging Face Blog68

    Google DeepMind 与 Hugging Face 在 Transformers v4.46.0 中推出 SynthID Text 文本水印

    Google DeepMind 与 Hugging Face 在 Transformers v4.46.0 中发布 SynthID Text,可通过 g-function 与 tournament sampling 为任意 LLM 的 model.generate() 输出添加人眼不可见的水印。

    推荐理由:原文给出水印的实现方式、配置参数与检测训练流程,开发者可以据此把 SynthID Text 接入现有生成调用。

10月22日周二
  1. Hugging Face Blog46

    Outlines-core 0.1.0 发布:用 Rust 重写结构化生成核心算法

    dottxt 与 Hugging Face 合作推出 outlines-core 0.1.0,将 Outlines 结构化生成核心算法移植到 Rust 并提供 Python 绑定。索引编译速度平均提升 2x,且通过 Rust 提前编译消除了此前 Numba JIT 带来的首次运行延迟。该库轻量、关注点分离,未来可绑定到 Python 之外的语言,方便更多库集成结构化生成。

  2. Hugging Face Blog50

    Hugging Face 与 Protect AI 合作,为 Hub 模型仓库集成 Guardian 安全扫描

    Hugging Face 宣布与 Protect AI 合作,将后者的 Guardian 集成为第三方扫描器,自动扫描所有公开模型仓库。Guardian 可捕获 pickle 序列化和 Keras Lambda 层等格式中的任意代码执行漏洞,扫描结果已在新版前端展示,示例见 mcpotato/42-eicar-street;目前因超过 100 万模型仓库,部分模型可能暂未显示扫描结果。

10月21日周一
10月16日周三
  1. Mistral AI60

    Mistral AI 发布 Ministral 3B 与 Ministral 8B 端侧模型

    Mistral AI 在 Mistral 7B 发布一周年之际推出端侧模型 Ministral 3B 和 Ministral 8B,主打设备端与边缘场景,官方称两者在 sub-10B 级别的知识、常识、推理、function-calling 和效率上达到新水平。

    推荐理由:官方公布了两个端侧模型的能力定位、上下文长度、API 定价与权重许可,读者可据此评估本地推理场景的选型。

10月15日周二
10月10日周四
10月9日周三
10月8日周二
10月5日周六
10月4日周五
  1. Hugging Face Blog28

    Hugging Face 推出 Open FinLLM Leaderboard 金融大模型评测榜单

    Hugging Face 推出 Open FinLLM Leaderboard,一个专为金融领域设计的大模型评测榜单,填补通用 NLP 基准难以评估金融任务的空白。榜单覆盖信息提取、文本分析、问答、文本生成、预测、风险管理和决策七大类任务,采用 Accuracy、F1、ROUGE、MCC 等指标。评测采用 zero-shot 方式,测试模型在未见过的金融任务上的泛化能力。

10月3日周四
  1. OpenAI News67

    OpenAI 在 66 亿美元融资之外设立 40 亿美元循环信贷额度

    OpenAI 在获得 66 亿美元新融资之外,与多家主要银行建立了 40 亿美元的信贷额度。参与银行包括 JPMorgan Chase、Citi、Goldman Sachs、Morgan Stanley、Santander、Wells Fargo、SMBC、UBS 和 HSBC。

    推荐理由:原文给出新增信贷额度和参与银行名单,可作为理解 OpenAI 此轮融资后资金安排的补充事实。