Fetch 借助 Amazon SageMaker 与 Hugging Face 将 ML 处理延迟降低 50%
消费奖励应用公司 Fetch 在 AWS 上用 Hugging Face 与 Amazon SageMaker 优化其 ML 流水线，12 个月内构建、训练并部署了 5 个以上模型，将最慢扫描的延迟降低 50%，文档理解模型准确率提升 200%。
全部AI 动态
全部动态
今日 7 条Hugging Face BlogAI 评分2525
OpenAI NewsAI 评分4747 OpenAI 发布教师用 ChatGPT 教学指南
OpenAI 发布了一份面向教师的 ChatGPT 教学指南，涵盖建议提示词、ChatGPT 的工作原理及其局限性，并讨论了 AI 检测器的有效性与偏见问题。指南旨在帮助教师在课堂中更好地使用 ChatGPT。
Hugging Face Blog精选AI 评分6767 如何用 Diffusers 优化 AudioLDM 2 推理速度至 10 倍以上
Hugging Face 官方教程讲解如何在 🧨 Diffusers 中运行 AudioLDM 2 文生音频管线，并通过 Flash Attention、float16 半精度、torch.compile 编译 UNet、切换 DPMSolverMultistepScheduler 将 10 秒音频的生成时间从约 14 秒降到 1 秒以内，且音质几乎不降。
推荐理由：官方教程给出四种可复用的推理优化方法，把 10 秒音频的生成时间从约 14 秒压到 1 秒以内，可直接迁移到自己的管线。
OpenAI News精选AI 评分6262 OpenAI 发布 ChatGPT Enterprise
OpenAI 发布 ChatGPT Enterprise，面向企业客户提供企业级安全与隐私保障，并称这是迄今为止最强大的 ChatGPT 版本。原文仅为摘要，未提供更多功能与定价细节。
推荐理由：OpenAI 官方宣布推出 ChatGPT Enterprise，原文强调企业级安全与隐私以及迄今最强版本，可作为企业版本发布的信源记录。
Hugging Face BlogAI 评分3737 Hugging Face Hub 将停止 Git 密码认证，改用访问令牌或 SSH 密钥
Hugging Face 宣布自 2023 年 10 月 1 日起，通过 Git 操作 Hugging Face Hub 时不再支持密码认证，用户需改用个人访问令牌或 SSH 密钥。令牌具有唯一、可撤销、随机等安全优势。目前仍在使用密码的用户将收到邮件提醒，需在截止日期前完成切换，可通过 git remote set-url 命令更新仓库地址。
Hugging Face Blog精选AI 评分8383 Code Llama 发布：Llama 2 代码特化系列模型接入 Hugging Face 生态
Hugging Face 发布 Code Llama 系列开源代码模型集成，含 7B、13B、34B 三种规格，基于 Llama 2 在 500B token 代码数据上训练，提供 Python 特化版和指令微调版。
推荐理由：官方完整介绍了模型规格、上下文扩展原理和生态接入方式，读者可以直接据此选择规格并上手部署使用。
OpenAI NewsAI 评分2323 OpenAI 与 Scale 合作，为微调模型的企业提供支持
OpenAI 宣布与 Scale 合作，为其客户提供 Scale 的 AI 专业能力，帮助企业对 OpenAI 最先进的模型进行微调定制。该合作面向企业客户，通过 Scale 的专业支持完成模型定制。
Hugging Face Blog精选AI 评分7474 Hugging Face 在 Transformers 中集成 AutoGPTQ，支持 GPTQ 量化大语言模型
Hugging Face 宣布将 AutoGPTQ 库集成进 Transformers，用户可用 GPTQ 算法以 8、4、3 或 2-bit 精度量化和运行模型，4-bit 量化精度损失可忽略，小 batch 下推理速度接近 fp16 基线。
推荐理由：官方宣布 AutoGPTQ 集成进 Transformers，读者可据此了解 4-bit 量化 LLM 的内存收益、用法与局限。
OpenAI NewsAI 评分5959 OpenAI 开放 GPT-3.5 Turbo 微调并更新 API
OpenAI 宣布开发者现在可以使用自有数据对 GPT-3.5 Turbo 进行微调，以适配各自的使用场景，同时带来了相关 API 更新。
Hugging Face BlogAI 评分5252 Hugging Face 发布企业级代码助手方案 SafeCoder
Hugging Face 发布面向企业的代码助手解决方案 SafeCoder，支持客户在自有基础设施内微调并自托管 Code LLM，训练和推理过程中代码不离开客户 VPC。
Hugging Face Blog精选AI 评分7171 Hugging Face 发布开源视觉语言模型 IDEFICS，复现 Flamingo
Hugging Face 发布开源视觉语言模型 IDEFICS，是 DeepMind 未公开的 Flamingo 的开放复现，接受任意图像和文本序列输入并生成文本，在多个图像文本理解基准上与原闭源模型表现相当。
推荐理由：原文说明了 IDEFICS 基于 Flamingo 的复现路线、参数规模与完全公开数据的训练方式，适合关注开源多模态模型生态的读者。
OpenAI NewsAI 评分3232 OpenAI 收购 Global Illumination
OpenAI 收购 Global Illumination，其整个团队已加入 OpenAI。
OpenAI News精选AI 评分6565 OpenAI 介绍如何用 GPT-4 辅助内容审核
OpenAI 发布文章说明其使用 GPT-4 进行内容政策制定和内容审核决策。文章指出这一做法带来更一致的标注、更快的政策修订反馈循环，并减少人工审核员的参与。
推荐理由：OpenAI 官方说明用 GPT-4 做内容审核的具体做法，展示了加快政策迭代与降低人工审核量的可借鉴路径。
Hugging Face BlogAI 评分3535 Hugging Face Hub 上架 AWS Marketplace：可用 AWS 账户付费
Hugging Face Hub 现已登陆 AWS Marketplace，用户可通过 AWS 账户直接为 Hugging Face 服务付费。订阅后，组织内所有成员使用 Inference Endpoints、Spaces Hardware Upgrades、AutoTrain 等服务的费用将自动出现在 AWS 账单中，价格与 Hugging Face 公开定价一致。
Hugging Face BlogAI 评分5656 Hugging Face 教程：用 Transformers 优化 Bark 语音合成模型
Hugging Face 博客发布 Bark 文本转语音模型的推理优化教程，基于 Transformers、Optimum 和 Accelerate 三种技术：BetterTransformer 提速 20% 到 30%，fp16 减少一半显存，CPU offload 让 bark-large 显存从 5GB 降到 2GB。
Hugging Face BlogAI 评分3737 如何用 BentoML 部署 Hugging Face 模型：DeepFloyd IF 实战
Hugging Face 与 BentoML 联合演示如何将开源文生图模型 DeepFloyd IF 部署到生产环境。DeepFloyd IF 直接在像素空间工作，由冻结文本编码器 T5-XXL-1.1 和三个级联像素扩散模块组成，可将 64x64 px 图像逐步放大至 1024x1024 px。
Hugging Face Blog精选AI 评分6565 Hugging Face 发布 Swift Transformers：在 Apple 设备上运行端侧 LLM
Hugging Face 发布 swift-transformers 等 alpha 工具，帮助 Swift 开发者在 Apple 设备上用 Core ML 运行 Llama 2 等语言模型。
推荐理由：官方一手发布了在 Apple 设备上跑 LLM 的 Swift 工具链，并给出 Core ML 转换、优化和已知坑的实操经验。
Hugging Face Blog精选AI 评分6767 Hugging Face 教程：用 DPO 微调 Llama v2
Hugging Face 官方博客介绍 TRL 库新支持的 DPO 方法，无需奖励模型和 RL 步骤即可直接在偏好数据上优化语言模型。
推荐理由：原文提供了从 SFT 到 DPO 微调 Llama v2 的完整代码与训练脚本，读者可复用到自己的数据集上。
Hugging Face BlogAI 评分5151 如何用 Inference Endpoints 部署 MusicGen
Hugging Face 发布教程，讲解如何通过 Inference Endpoints 和自定义 handler 部署 MusicGen 音乐生成模型。
Hugging Face BlogAI 评分3636 Huggy Lingo：用机器学习改进 Hugging Face Hub 上的语言元数据
Hugging Face 正在用机器学习为 Hub 上缺少语言元数据的数据集检测语言，并由 librarian-bot 自动发起 pull request 补充元数据。
Hugging Face BlogAI 评分3535 基于 FHE 走向加密大语言模型：在 Hugging Face transformers 上加密运行 GPT2
Zama 提出用全同态加密（FHE）解决 LLM 隐私问题，让用户数据和模型 IP 同时得到保护。团队基于 Hugging Face transformers 库改写 GPT2 的多头注意力层，用 Concrete-Python 将推理部分转换为 FHE 等价实现，非线性函数通过 PBS（可编程自举）完成。实验表明 4-bit 量化下模型在约 80 句的数据集上保持 96% 的原始预测精度。
Hugging Face BlogAI 评分4242 Segmind 开源知识蒸馏代码及 SD-Small 和 SD-Tiny 权重
Segmind 开源了通过 Block-removal 知识蒸馏训练的压缩版 Stable Diffusion 模型 SD-Small 和 SD-Tiny 的权重与训练代码，参数量分别比基础模型少 35% 和 55%，图像保真度相当。
Hugging Face BlogAI 评分5959 Hugging Face 实战教程：用 Shap-E 与 Dream Textures 一步步生成 PS1 风格 3D 资产
Hugging Face 博客发布教程，演示用 Shap-E 从文本生成 3D 模型，再经 Blender 减面、Dream Textures 生成无缝贴图和 UV 展开，导出 FBX 并导入 Unity。作者选择 PS1 低多边形风格以规避当前 text-to-3D 保真度不足的问题，并配以顶点光照、浓雾和故障风后期处理还原复古观感。
Hugging Face Blog精选AI 评分7474 Apple 与 Hugging Face 发布 Stable Diffusion XL 的 Core ML 版本及混合位宽量化方案
Apple 与 Hugging Face 将 Stable Diffusion XL 移植到 Core ML，发布完整 pipeline 和 mixed-bit palettization 量化版本，UNet 以平均 4.5 位压缩后体积从 4.8GB 降至 1.4GB（减少 71%）。
推荐理由：原文给出 Stable Diffusion XL 在 Mac 上的 Core ML 移植细节、压缩到 4.5 位后体积从 4.8GB 降到 1.4GB 的数据，以及可复用的混合位宽量化方法。
OpenAI NewsAI 评分5959 OpenAI 参与成立 Frontier Model Forum 推动前沿AI安全发展
OpenAI 宣布组建行业组织 Frontier Model Forum，推动前沿AI系统的安全与负责任开发。该组织将推进AI安全研究、识别最佳实践与标准，并促进政策制定者与行业间的信息共享。
Hugging Face BlogAI 评分5151 Hugging Face 联合多家机构就 EU AI Act 提出开源机器学习相关建议
Hugging Face 与 Creative Commons、Eleuther AI、GitHub、LAION、Open Future 联合发布立场文件，阐述开放机器学习开发对实现 EU AI Act 目标的必要性。
Hugging Face BlogAI 评分5656 Hugging Face 发布 Agents.js：用 JavaScript 给 LLM 接入工具
Hugging Face 在 huggingface.js 下推出 Agents.js 库，让 LLM 可在浏览器或服务端通过 JavaScript 调用工具，通过 npm install @huggingface/agents 安装。
OpenAI News精选AI 评分6060 OpenAI 等前沿实验室通过自愿承诺推进 AI 治理
OpenAI 与其他领先实验室宣布自愿承诺，以强化 AI 的安全性、安保与可信度。材料仅提供摘要，未给出承诺的具体条款与细节。
Hugging Face BlogAI 评分4444 Hugging Face 首届开源 AI Game Jam 结果揭晓
Hugging Face 于 7 月 7 日至 11 日举办首届开源 AI Game Jam，要求参赛者在 48 小时内用至少一个开源 AI 工具制作游戏，共收到超 1300 人报名和 88 款游戏提交。评委从 Top 10 中选出冠军作品 ohmlet 的 Snip It，该游戏使用 Stable Diffusion 生成素材。主办方表示未来计划举办更多届。
OpenAI News精选AI 评分6363 ChatGPT 推出自定义指令功能
OpenAI 为 ChatGPT 推出自定义指令功能，用户可设置偏好，ChatGPT 会在之后的所有对话中记住并遵循这些设置，让用户对回复方式有更多控制。
推荐理由：原文说明了自定义指令的作用范围，读者可以据此了解如何让 ChatGPT 在对话中保持个人偏好。
Hugging Face BlogAI 评分3333 🤗 Diffusers 库发布一周年
Hugging Face 的 🤗 Diffusers 扩散模型库迎来一周年，回顾了一年来的主要功能更新。
OpenAI NewsAI 评分2727 OpenAI 与 American Journalism Project 达成合作，投入超 500 万美元支持本地新闻
OpenAI 与 American Journalism Project 达成一项超过 500 万美元的合作伙伴关系，探索 AI 发展如何支持本地新闻领域的繁荣与创新，并确保本地新闻机构参与塑造这项新兴技术的未来。
Hugging Face Blog精选AI 评分9191 Meta 发布 Llama 2，Hugging Face 全面上架 12 个模型
Meta 发布 Llama 2 系列开放模型，包含 7B、13B、70B 预训练及微调版本，采用可商用的 Llama 2 许可证，Hugging Face 同步完成集成并上线全部 12 个模型。
推荐理由：官方完整梳理了 Llama 2 的许可、规格与 HF 生态推理微调路径，读者可据此快速上手开源替代方案。
Hugging Face BlogAI 评分4545 Hugging Face 构建 AI WebTV：用开源文生视频模型打造实验性直播流
Hugging Face 推出实验性演示 AI WebTV，循环播放由开源文生视频模型 Zeroscope（zeroscope_v2_576 生成 576x320、zeroscope_v2_XL 放大至 1024x576）生成的短视频，配乐由 MusicGen 生成，提示词由 ChatGPT 根据人工撰写的主题生成。
Hugging Face BlogAI 评分5656 Hugging Face 开源文本生成与 LLM 生态综述
Hugging Face 发布博客，介绍其开源文本生成与大语言模型生态，覆盖 Llama 2 等开源模型、许可证对比、text-generation-inference 服务方案及 PEFT 微调工具。文中列出 Falcon 40B、MPT-30B、XGen、StarCoder 等模型的许可与用途，说明 TGI 已支撑 HuggingChat，并介绍 LoRA 等参数高效微调方法。
Hugging Face BlogAI 评分3939 如何在 Intel CPU 上微调 Stable Diffusion 模型
Hugging Face 展示如何在 Intel 第四代 Xeon（Sapphire Rapids）CPU 集群上微调 Stable Diffusion 模型，采用 textual inversion 技术，仅需 5 张示例图片。
OpenAI NewsAI 评分2121 Viable 用 GPT-4 高精度分析大规模定性数据
Viable 使用 GPT-4 分析定性数据，实现了革命性的规模和无与伦比的准确性。
Hugging Face Blog精选AI 评分6363 用 Transformers.js 制作浏览器端 ML 网页游戏 Doodle Dash
作者发布了教程，讲解如何用 Transformers.js 制作完全在浏览器中实时运行的 ML 网页游戏 Doodle Dash，灵感来自 Google 的 Quick, Draw!
推荐理由：原文给出了从微调 apple/mobilevit-small 到用 Transformers.js 在浏览器端实时推理的完整流程，方法可直接复用于自制浏览器端 ML 游戏。
Hugging Face BlogAI 评分5959 如何在 Hugging Face Inference Endpoints 上部署开源 LLM 并流式输出
Hugging Face 官方教程讲解用 Inference Endpoints 部署开源 LLM，以 tiiuae/falcon-40b-instruct 为例，建议改用 1x Nvidia A100 实例获得最佳性能，约 10 分钟后端点上线。
Hugging Face Blog精选AI 评分6363 Hugging Face 教程：用 WizardCoder-15B 在 Node.js 中搭建文本生成网页应用
Hugging Face 发布教程，展示用 Node.js 搭建文本到网页应用的生成器，模型采用部署在 Inference Endpoints 上的 WizardCoder-15B，通过 Express.js 流式渲染生成 HTML。
推荐理由：Hugging Face 官方教程给出从 Endpoint 部署到流式渲染的完整代码，读者可以照着复现一个文本生成网页应用的服务。