Hugging Face 实验：GPT-4 能否像人类标注员那样为模型输出打分
Hugging Face 扩展 Open LLM Leaderboard，用 Scale AI 人类标注与 GPT-4 对 Koala-13B、Vicuna-13B、OpenAssistant-12b、Dolly-12b 在 327 条提示的盲测集上做偏好对比，并构建带误差估计的 Elo 排名。
#Hugging Face
#Hugging Face
今日 0 条Hugging Face BlogAI 评分5959 Hugging Face BlogAI 评分3131 面向 GLAM 行业的 Hugging Face Hub 使用指南
Hugging Face 撰文介绍 GLAM（美术馆、图书馆、档案馆和博物馆）行业如何使用并贡献 Hugging Face Hub。Hub 目前托管超过 190,000 个模型、33,000 个数据集和 100,000 多个应用与演示，用户可按任务和语言筛选模型，并通过浏览器界面直接上传 CSV 数据集，或用 Spaces 托管 Gradio、Streamlit 及 Docker 应用。
Hugging Face Blog精选AI 评分6565 Hugging Face Hub 支持用 DuckDB 以 SQL 查询 5 万多个数据集
Hugging Face 宣布用户可以在 Hub 上的任何数据集上用 DuckDB 运行 SQL 查询。Dataset Viewer 会自动把所有公开数据集转换为 Parquet 文件，可通过 /parquet 端点获取文件 URL；借助 httpfs 扩展，DuckDB 能直接对远程 Parquet 文件执行 SQL，并支持查询被切分为 500MB 分块的大数据集。
推荐理由：官方介绍了用 DuckDB 直接对 Hub 上 5 万多数据集跑 SQL 的方法，读者可以照着把 Parquet 端点和查询代码迁移到自己的数据探索流程。
Hugging Face BlogAI 评分3737 fastText 正式登陆 Hugging Face Hub
Meta AI 开源的文本表示与分类库 fastText 现已登陆 Hugging Face Hub，官方镜像了全部 157 种语言的词向量及最新语言识别模型，用户通过 huggingface_hub 几条命令即可下载使用。此次集成还支持文本分类与特征提取 widget，并提供预训练向量加载、最近邻查询和语言检测的用法示例。
Hugging Face Blog精选AI 评分8181 Falcon-40B 与 Falcon-7B 开源模型登陆 Hugging Face 生态
阿布扎比 Technology Innovation Institute 以 Apache 2.0 许可发布 Falcon-7B 和 Falcon-40B 模型，40B 版当时位列 Open LLM Leaderboard 第一。
推荐理由：原文由 Hugging Face 实测 Falcon 的推理、量化与 QLoRA 微调，并给出显存需求和代码，可直接迁移到自己的部署流程。
Hugging Face BlogAI 评分4747 如何在 Unity 中用 Hugging Face Unity API 实现语音识别
这篇教程讲解如何用 Hugging Face Unity API 在 Unity 游戏中实现语音识别，可将语音转文本用于指令输入、NPC 对话或无障碍功能。步骤包括搭建含开始/停止按钮的 UI 场景、用 Microphone.Start() 录制最长 10 秒、44100 Hz 的音频，并将录音编码为 WAV 格式供 API 调用，最终把识别结果显示在 TextMeshPro 文本中。
Hugging Face BlogAI 评分2424 Hugging Face 宣布首届 Open Source AI Game Jam 开源 AI 游戏创作马拉松
Hugging Face 宣布举办首届 Open Source AI Game Jam，参赛者需在作品中或工作流里使用至少一个开源 AI 工具（如 Stable Diffusion），可应用于纹理生成、AI NPC 和文本转语音等场景。
Hugging Face BlogAI 评分2020 BERTopic 与 Hugging Face Hub 集成发布
Hugging Face 宣布 BERTopic 集成到 Hugging Face Hub。该集成支持基于主题建模对 Hub 上的模型和数据集内容进行组织与探索。相关功能现已上线 Hugging Face Hub。
Hugging Face BlogAI 评分3838 Hugging Face LLM Inference Container 登陆 Amazon SageMaker
Hugging Face 推出基于 Text Generation Inference（TGI）的 LLM Inference Container，用于在 Amazon SageMaker 上部署开源大模型，示例将 Open Assistant 12B（Pythia）部署到 ml.g5.12xlarge 实例（4 张 NVIDIA A10G、96GB GPU 显存）。
Hugging Face BlogAI 评分4444 用 NNCF 和 🤗 Optimum 在 Intel CPU 上优化 Stable Diffusion
Hugging Face 与 OpenVINO NNCF 合作提出 Stable Diffusion 的 CPU 优化工作流，通过量化感知训练（QAT）结合知识蒸馏和 Token Merging，相比 PyTorch 实现 5.1x 推理加速和 4x 模型体积缩减。
Hugging Face BlogAI 评分4848 Hugging Face 与 Microsoft 合作，在 Azure 上推出 Hugging Face 模型目录
Hugging Face 与 Microsoft 合作，在 Azure Machine Learning Studio 内推出 Hugging Face Hub Model Catalog，收录 Hub 上数千个最受欢迎的 Transformers 模型。
Hugging Face Blog精选AI 评分7878 Hugging Face 集成 bitsandbytes 4bit 量化与 QLoRA，降低 LLM 使用门槛
Hugging Face 与 bitsandbytes 合作，在 transformers 中支持 4bit 量化加载，并集成 Dettmers 等人新提出的 QLoRA 微调方法。
推荐理由：官方详细讲解 transformers 中 4bit 量化和 QLoRA 的用法与配置，附带在消费级 GPU 上微调 Llama 7B/13B 的实测结果。
Hugging Face BlogAI 评分5858 Hugging Face 公布 safetensors 安全审计结果并推进其为默认模型保存格式
Hugging Face 联合 EleutherAI 和 Stability AI 委托 Trail of Bits 对 safetensors 库完成外部安全审计，报告全文公开。
Hugging Face BlogAI 评分3636 用 InstructPix2Pix 对 Stable Diffusion 做指令微调
Hugging Face 探索用指令微调让 Stable Diffusion 学会根据指令处理输入图像，如“给自然图像加卡通滤镜”。
Hugging Face BlogAI 评分5454 Hugging Face 与 IBM 合作，watsonx.ai 成为面向 AI 构建者的新一代企业级工作室
Hugging Face 宣布与 IBM 合作，为其新一代企业 AI 工作室 watsonx.ai 提供开源支持，该平台用于训练、验证、调优和部署传统 ML 与生成式 AI 能力。
Hugging Face BlogAI 评分5050 Hugging Face 与 Intel 发布 Q8-Chat，用 SmoothQuant 让 LLM 在 Xeon CPU 上高效运行
Hugging Face 与 Intel 合作推出 Q8-Chat 演示，基于 SmoothQuant 8-bit 量化，在单路 32 核 Intel Sapphire Rapids CPU、batch size 为 1 的条件下实现类 ChatGPT 聊天体验。
Hugging Face BlogAI 评分5555 BigCode 背后的大规模近似去重实践详解
Hugging Face 博客详解 BigCode 数据集的大规模近似去重方法，核心流程为 MinHash 指纹计算加 LSH 分桶再图聚类去重。
Hugging Face Blog精选AI 评分6464 RWKV 架构接入 Hugging Face transformers 库：兼具 RNN 与 transformer 优势
RWKV 是一种结合 RNN 与 transformer 优势的新架构，已通过 PR 正式集成到 Hugging Face transformers 库。该架构训练时可并行（类似线性化 GPT），推理时仅需矩阵向量运算、内存不随上下文增长；已有训练上下文长度 8192 的模型与 ctx1024 模型速度和内存相当。
推荐理由：RWKV 结合 RNN 与 transformer 两种架构的优势，官方介绍了其原理、可用模型规模及在 transformers 库中的实际用法。
Hugging Face BlogAI 评分2424 Hugging Face 入选法国数据保护机构 CNIL 增强支持计划
Hugging Face 宣布入选法国数据保护机构 CNIL 的增强支持计划。该计划从 40 多家候选企业中选出 3 家具有经济发展潜力的公司，帮助其理解和落实数据保护义务。Hugging Face 曾在 BigScience 和与 ServiceNow 共同主持的 BigCode 项目中重视隐私保护，并计划借助 CNIL 的专业支持推动 GDPR 合规。
Hugging Face BlogAI 评分5454 如何在单张 AMD GPU 上用 ROCm 运行类 ChatGPT 聊天机器人 Vicuna 13B
Hugging Face 发布教程，讲解如何用 ROCm 在单张 AMD GPU 上运行 4-bit GPTQ 量化的 Vicuna-13B 模型。经 RX6900XT（16GB 显存）实测，量化模型仅需 7.52GB 显存，而 fp16 需超过 28GB，延迟与精度损失极小。
Hugging Face Blog精选AI 评分6868 Hugging Face 发布 Assisted Generation 解码方法，文本生成延迟最多降低 10 倍
Hugging Face 在 Transformers 中推出 Assisted Generation 解码方法，用小模型生成候选 token、大模型前向传播验证，降低自回归文本生成延迟。
推荐理由：原文解释了文本生成延迟来自内存带宽而非计算，并给出 Assisted Generation 的原理、代码和延迟数据，方法可直接复现。
Hugging Face Blog精选AI 评分6060 Hugging Face 将 StarCoder 微调为 StarChat 编程助手并开源全流程
Hugging Face 团队将 BigCode 的 StarCoder（16B 参数、8,192 token 上下文）微调为编程助手 StarChat alpha。
推荐理由：原文完整展示了用 OpenAssistant 对话数据和 DeepSpeed ZeRO-3 将 StarCoder 微调为编程助手的可复现流程，并附评估方法。
Hugging Face Blog精选AI 评分6161 Hugging Face 深入解析文本生成视频模型的现状与实践
Hugging Face 发布博客，梳理文本生成视频模型从 GAN、Transformer 到扩散模型的演进脉络，并对比文本生成图像任务解释其在计算成本、数据集和视频描述上的挑战。
推荐理由：系统梳理了文本生成视频模型的技术演进、数据集挑战与代表工作，并给出 Diffusers 上的可复用代码与演示入口。
Hugging Face Blog精选AI 评分6868 Hugging Face 与 ServiceNow 联合发布代码大模型 StarCoder
BigCode（由 Hugging Face 与 ServiceNow 联合主导）发布约 15B 参数的代码大模型 StarCoder 和 StarCoderBase，在 1 万亿 token 上训练，覆盖 80+ 编程语言。
推荐理由：官方发布且附完整评测数据，读者可以据此对比开源代码模型与闭源模型的实际差距。
Hugging Face BlogAI 评分4040 Hugging Face Unity API 安装与使用教程
Hugging Face Unity API 是对 Hugging Face Inference API 的易用集成，可在 Unity 项目中调用 Hugging Face 模型。
Hugging Face Blog精选AI 评分6161 Hugging Face 教程：用 TensorFlow 和 TPU 从零训练 RoBERTa 语言模型
Hugging Face 发布端到端教程，演示用 TensorFlow 和 TPU 在 WikiText (v1) 数据集上从零训练 RoBERTa base 模型，涵盖训练 Unigram tokenizer、生成 TFRecord 分片上传 GCS、以及用 TPUStrategy 进行数据并行训练。
推荐理由：原文给出从 tokenizer 训练到 TPU 训练的完整流程与代码，读者可据此把 TensorFlow 训练管线迁移到 TPU。
Hugging Face Blog精选AI 评分6565 如何在免费版 Google Colab 上用 🧨 diffusers 运行 DeepFloyd IF 文生图模型
Hugging Face 官方博客演示用 🧨 diffusers 在免费版 Google Colab（13GB CPU 内存、T4 15GB 显存）上运行 DeepFloyd 的开源文生图模型 IF，并支持图像变化和局部重绘。
推荐理由：官方博客给出在 13GB 内存免费 Colab 上跑通 40GB 参数 IF 的完整低显存方案，含可复用的代码和量化技巧。
Hugging Face BlogAI 评分4949 Databricks 携手 Hugging Face：大语言模型训练与微调最高提速 40%
Databricks 向 Hugging Face 代码库提交首个官方贡献：Datasets 新增 from_spark 函数，可将 Apache Spark dataframe 直接转为 Hugging Face Dataset，免去先写 Parquet 再重新加载的繁琐流程。16GB 数据集的处理时间从 22 分钟降至 12 分钟，缩短超过 40%。
Hugging Face BlogAI 评分2424 Hugging Face 推出面向中文读者的中文博客
Hugging Face 推出面向中文读者的中文博客（hf.co/blog/zh），由志愿者团队翻译博客文章及 Transformer、扩散模型、强化学习等课程，服务不断壮大的中文 AI 社区。
Hugging Face BlogAI 评分4949 如何在 Hugging Face Space 中托管 Unity 游戏
Hugging Face Spaces 除了用于机器学习 demo，也可以托管可玩的 Unity 游戏。教程共 11 步：用 Static HTML 模板创建 Space 并用 Git 克隆，将 Unity 项目 Build Target 切换为 WebGL，压缩格式设为 Disabled，构建后把文件复制到仓库，用 Git-LFS 跟踪 Build/* 大文件后推送即可。
Hugging Face BlogAI 评分2929 Hugging Face 与 AWS 合作：用 AWS Inferentia2 加速 Hugging Face Transformers
Hugging Face 与 AWS 合作，针对 AWS Inferentia2 推理加速器优化 Hugging Face Transformers，通过 optimum neuron 只需一行代码即可编译模型。
Hugging Face BlogAI 评分4343 如何用 Transformers 库做图分类：以 Microsoft Graphormer 为例
Hugging Face 发布教程，讲解如何用 Transformers 库（版本 >= 4.27.2）和 Microsoft 的 Graphormer 进行图分类。
Hugging Face BlogAI 评分2626 Hugging Face 携手 Substra 打造隐私保护 AI：联邦学习入门 Space
Hugging Face 与开源联邦学习框架 Substra 合作创建了一个 Space，演示如何在数据不出本地的前提下训练模型。联邦学习只传输模型权重，多来源数据训练的模型在验证数据上几乎总优于单一来源模型。Substra 已在乳腺癌研究等真实场景落地，并曾支撑 MELLODDY 项目中 10 家药企共享全球最大的小分子活性数据集。
Hugging Face BlogAI 评分3333 Snorkel AI 携手 Hugging Face：为的企业解锁基础模型能力
Snorkel AI 与 Hugging Face 合作，将 Hugging Face 平台上超过 150,000 个开源模型接入 Snorkel Flow 开发平台，帮助企业针对自身用例适配基础模型。
Hugging Face Blog精选AI 评分6565 StackLLaMA：用 RLHF 训练 LLaMA 的实战指南
Hugging Face 发布 StackLLaMA 模型及完整 RLHF 训练教程，演示如何将 LLaMA 7B 微调用于回答 Stack Exchange 问答。
推荐理由：Hugging Face 官方复盘 StackLLaMA 全流程训练细节，包括显存估算、LoRA 配置和 RLHF 训练中的稳定性坑，方法可直接迁移复用。
Hugging Face BlogAI 评分2828 Hugging Face 伦理与社会通讯 #3：Hugging Face 的伦理开放之道
Hugging Face 阐述其在开放机器学习中的伦理实践：通过逐案分析风险、识别高风险模型，在开放开发与风险控制之间寻求平衡。平台已推出 flagging 举报功能、模型卡文档、“Not For All Audiences” 标签，并推广 RAIL 开放责任许可（如 BLOOM、BigCode），同时基于社区 Spaces 总结出 6 个伦理分类标签。
Hugging Face BlogAI 评分5252 Hugging Face 讲解如何在 Intel Sapphire Rapids CPU 上加速 Stable Diffusion 推理
Hugging Face 发布教程，演示多种技术在 Sapphire Rapids CPU 上加速 Stable Diffusion 推理。
Hugging Face BlogAI 评分2929 如何在 Habana Gaudi2 加速器上高速推理 BLOOMZ 大语言模型
Hugging Face 展示了如何用 Optimum Habana 在 Habana Gaudi2 上部署 1760 亿参数的 BLOOMZ。基准测试中，Gaudi2 生成 100 个 token 的延迟为 3.103 秒，比 A100 80GB 快 1.42 倍；BLOOMZ-7B 则快 2.89 倍。
Hugging Face BlogAI 评分4242 如何用 Hugging Face 和 Flower 进行联邦学习
这是一篇教程，讲解如何用 Flower 框架结合 Hugging Face，在多个客户端上对预训练模型 distilBERT 做联邦微调，完成 IMDB 影评正负情感分类任务。各客户端在本地训练模型并只上传参数，由服务器按预定义策略聚合，无需共享数据。教程还提供可在 Google Colab 中用 flwr['simulation'] 模拟联邦环境的 notebook。
Hugging Face Blog精选AI 评分6666 Hugging Face 教你用 diffusers 训练自己的 ControlNet
Hugging Face 发布教程，详解如何用 diffusers 训练 ControlNet，并以基于 Microsoft FaceSynthetics 10 万合成人脸数据集训练的 Uncanny Faces 面部姿态模型为例。
推荐理由：作者以亲身训练经历给出从数据集构建到训练参数的完整流程，还分享了过拟合教训和 8GB 显存的降配方法。