用 Optimum Intel 和 fastRAG 在 CPU 上优化 BGE 嵌入模型
Hugging Face 博客介绍如何用 Optimum Intel、Intel Neural Compressor 和 IPEX 将 BGE small/base/large 嵌入模型量化为 int8 并在 Intel Xeon 上加速。
全部AI 动态
全部动态
今日 7 条Hugging Face BlogAI 评分5959 Hugging Face BlogAI 评分4242 Hugging Face 推出 WebSight 数据集，解锁网页截图转 HTML 代码
Hugging Face 发布开源数据集 WebSight，用于训练视觉语言模型将网页截图转换为 HTML 代码。其最新版 WebSight-v0.2 扩展至 200 万个样本，改用真实图像和 Tailwind CSS。基于该数据集微调的模型 Sightseer 可将截图转为可运行的 HTML，并能在生成代码中嵌入与原图相近的图像。
OpenAI NewsAI 评分2020 Healthify 携手 OpenAI 用 AI 健康教练改善数百万人的健康
Healthify 与 OpenAI 合作，借助 AI 健康教练帮助用户实现可持续减重，目标是改善数百万人生活。
OpenAI NewsAI 评分2828 OpenAI 与 Le Monde 和 Prisa Media 达成新闻合作
OpenAI 与国际新闻机构 Le Monde 和 Prisa Media 达成合作，将法语和西班牙语新闻内容引入 ChatGPT。
OpenAI NewsAI 评分5757 OpenAI 宣布新增董事会成员，Sam Altman 重返董事会
OpenAI 宣布 Dr. Sue Desmond-Hellmann、Nicole Seligman、Fidji Simo 加入董事会，Sam Altman 重新加入董事会。
OpenAI NewsAI 评分3131 OpenAI 调查结束，Altman 与 Brockman 继续领导公司
OpenAI 宣布对 Sam Altman 的审查已完成，他将与 Greg Brockman 继续领导公司，同时公布了新的董事会成员并加强了治理结构。
OpenAI NewsAI 评分1414 Match Group 借助 ChatGPT Enterprise 提升生产力
Match Group 采用 ChatGPT Enterprise 来激发团队创造力并提升工作影响力。
OpenAI NewsAI 评分2525 OpenAI API 助力 Paradigm 提升患者参与临床试验的可及性
Paradigm 利用 OpenAI 的 API 改善患者参与临床试验的途径。该公司借助 OpenAI 的技术优化临床试验流程，让更多患者能够获得合适的临床试验机会。
OpenAI NewsAI 评分1515 Lifespan 用 GPT-4 提升健康素养与患者福祉
医疗机构 Lifespan 使用 GPT-4 提升健康素养并改善患者结局。该应用帮助患者更好地理解健康信息，从而改善整体福祉。
OpenAI NewsAI 评分4545 OpenAI 与 Elon Musk
OpenAI 发文表示致力于自身使命，并称在这一过程中始终践行使命。
Hugging Face BlogAI 评分3838 UCLA 团队推出 ConTextual 基准：评估多模态模型在富文本图像场景中的联合推理能力
UCLA 研究者发布 ConTextual 基准，包含 506 条指令，覆盖时间读取、导航、信息图等 8 类富文本视觉场景，用于评估多模态模型对文字与图像的上下文联合推理能力，并附带排行榜。
Hugging Face BlogAI 评分4949 Data is better together：Argilla 与 Hugging Face Spaces 让社区共建更好的数据集
Argilla 与 Hugging Face 发起 Data is better together 实验，几天内吸引 350 位社区贡献者，完成超过 11,000 次提示词评分，并发布含 10,000 条带评分提示词的数据集 10k_prompts_ranked。
Hugging Face BlogAI 评分2828 使用 Optimum Habana 在 Intel Gaudi 2 AI 加速器上运行 Llama 2 文本生成 pipeline
Hugging Face 展示如何在 Intel Gaudi 2 AI 加速器上，用 Optimum Habana 和自定义 pipeline 类运行 Llama 2 系列（7b、13b、70b）进行文本生成，几行代码即可完成。
Hugging Face Blog精选AI 评分6565 BigCode 发布 StarCoder2 系列开放代码模型及 The Stack v2 数据集
BigCode 发布 StarCoder2 系列开放代码模型，含 3B、7B、15B 三个规模，均基于新数据集 The Stack v2 训练，并同步开放模型、数据集及处理与训练代码。
推荐理由：官方完整披露三个模型规模、训练数据与开放范围，读者可据此评估开源代码模型的可复用程度。
Hugging Face BlogAI 评分4444 Hugging Face 发布 TTS Arena：社区众测语音合成模型
Hugging Face 推出 TTS Arena，一个让任何人对比并投票评选 TTS 模型的社区平台，借鉴 LMSys 的 Chatbot Arena 模式。
Mistral AI精选AI 评分7575 Mistral 发布旗舰模型 Mistral Large 与低延迟 Mistral Small
Mistral 发布旗舰语言模型 Mistral Large，称其在常用基准上仅次于 GPT-4，可通过 la Plateforme 和 Azure 使用，支持 32K tokens 上下文、英法德西意多语言、function calling 和 JSON 输出。同时发布优化延迟与成本的 Mistral Small，性能超过 Mixtral 8x7B，并简化了端点产品线、新增多币种定价。
推荐理由：官方给出了 Mistral Large 的基准对比、多语言与 function calling 能力，读者可据此评估它在 API 可用模型中的位置。
Mistral AI精选AI 评分6262 Mistral AI 发布对话助手 Le Chat
Mistral AI 发布对话助手 Le Chat，作为与 Mistral 各模型交互的产品入口，底层可用 Mistral Large、Mistral Small 或原型模型 Mistral Next。
推荐理由：官方宣布对话助手并说明可用的底层模型与企业版方向，读者可借此了解 Mistral 模型的实际产品入口。
Hugging Face BlogAI 评分5656 Hugging Face 讲解 AI 水印技术：工具与方法入门
Hugging Face 发布 AI 水印入门博客，讲解图像、文本和音频内容的加水印方法及优缺点。文中介绍生成时嵌入与生成后添加两大类方法、Nightshade 与 Glaze 等图像防滥用工具、基于红绿 token 的 LLM 文本水印，以及 AudioSeal 语音水印，并列出 Hub 上 IMATAG、Truepic 等相关工具，同时指出文本检测在文本较短或模型未知时可靠性有限。
Hugging Face Blog精选AI 评分6262 Hugging Face 介绍 Matryoshka 嵌入模型及 Sentence Transformers 训练用法
Hugging Face 发文介绍 Matryoshka 嵌入模型，这种模型可产出多种维度的有用嵌入，将重要信息前置以便截断后仍保持性能。
推荐理由：原文讲清 Matryoshka 嵌入的训练与使用方法，并用对比实验说明截断到 8.3% 维度仍保留 98.37% 性能，方法可直接复用。
Hugging Face Blog精选AI 评分6565 Hugging Face 发布 Gemma 模型 LoRA/QLoRA 微调教程
Hugging Face 发布 Gemma 模型微调教程，演示用 Transformers、PEFT 与 trl 的 SFTTrainer，通过 LoRA 和 4-bit QLoRA（bitsandbytes、nf4 量化）在 google/gemma-2b 上以 english_quotes 数据集训练模型按指定格式输出名言和作者。
推荐理由：Hugging Face 官方用 LoRA 和 4-bit QLoRA 给出 Gemma 微调的完整可复现代码，覆盖 GPU 和 TPU 两种路径。
Hugging Face Blog精选AI 评分7777 Google 发布开源大模型 Gemma，Hugging Face 提供全面集成支持
Google 发布开源大语言模型家族 Gemma，包含 2B 与 7B 两种规模、各有 base 与 instruction-tuned 共四个模型，基于 Gemini 技术并支持 8K 上下文。
推荐理由：官方博客给出四个开源模型的尺寸、性能对比和 Hugging Face 生态集成方式，读者可据此评估部署与微调路径。
Hugging Face BlogAI 评分2727 Upstage 推出 Open Ko-LLM Leaderboard：引领韩语 LLM 评估生态
Upstage 于 2023 年 9 月在 Hugging Face 上推出 Open Ko-LLM Leaderboard，构建韩语 LLM 评估生态。该排行榜采用 Ko-MMLU、Ko-ARC、Ko-HellaSwag、Ko-Truthful QA、Ko-CommonGEN V2 五项韩语基准，并采用不公开的私有测试集以防污染。
Hugging Face Blog精选AI 评分6161 Hugging Face PEFT 新增多種 LoRA adapter 合并方法
Hugging Face 在 PEFT 中为 LoRA adapter 新增多種合并方法，可通过 add_weighted_adapter() 调用，包括 cat、linear、svd、ties、dare_linear、dare_ties、magnitude_prune 及其 svd 变体。
推荐理由：官方详细介绍 PEFT 新增的多种 LoRA 合并方法及代码示例，还给出不同场景下的实测选择建议，便于直接复用。
Hugging Face Blog精选AI 评分7070 Hugging Face 教程：用开源 LLM 生成合成数据微调专用模型，节省成本、时间和碳排放
Hugging Face 发布教程，展示用 Mixtral-8x7B-Instruct-v0.1 生成合成数据，再通过 AutoTrain 微调 RoBERTa-base 做金融新闻情绪分类。
推荐理由：原文给出可复用的合成数据蒸馏流程和成本对比数字，读者可以照此把自己的分类任务从 LLM API 迁到专用小模型。
OpenAI News精选AI 评分8080 OpenAI 发布视频生成模型 Sora，探索视频生成模型作为世界模拟器
OpenAI 发布视频生成模型 Sora，在可变时长、分辨率和宽高比的视频与图像上联合训练文本条件扩散模型，并采用作用于时空 patch 的 Transformer 架构。Sora 可生成一分钟高保真视频，OpenAI 认为扩大视频生成模型规模是构建通用物理世界模拟器的可行路径。
推荐理由：官方说明 Sora 的技术路线和可生成一分钟视频的能力，适合关注视频生成与世界模拟器方向的读者。
OpenAI NewsAI 评分5757 OpenAI 破除国家关联威胁行为者对 AI 的恶意使用
OpenAI 宣布破除国家关联威胁行为者对 AI 的恶意使用，正文抓取失败，仅标题可用。
Hugging Face BlogAI 评分1313 AMD Pervasive AI Developer Contest 开放报名，AMD 联手 Hugging Face 助力开发者在 AMD 硬件上部署 AI
AMD 与 Hugging Face 联合推出 Pervasive AI Developer Contest，向全球开发者免费提供 AMD 硬件用于构建 AI 应用。
OpenAI NewsAI 评分3838 ChatGPT 测试记忆功能并推出新控制选项
OpenAI 正在测试 ChatGPT 的记忆能力，让其记住用户对话内容，使后续聊天更有帮助。用户可完全掌控 ChatGPT 的记忆设置。
Hugging Face Blog精选AI 评分6363 Hugging Face 为 TGI 和 Inference Endpoints 推出兼容 OpenAI 的 Messages API
Hugging Face 在 TGI 1.4.0 版本和 Inference Endpoints 中推出 Messages API，兼容 OpenAI Chat Completion API，用户可无缝从 OpenAI 模型切换到开源 LLM。
推荐理由：原文给出 TGI Messages API 的兼容范围、参数限制和从 OpenAI 迁移到开源模型的具体做法，方便评估改造成本。
Hugging Face Blog精选AI 评分6363 Segmind 发布 SegMoE 框架，可用混合专家方式组合扩散模型
SegMoE 框架正式发布，可将多个预训练扩散模型合并为混合专家模型，已集成 Hugging Face diffusers 并以 Apache 2.0 开源。发布 SegMoE-2x1、SegMoE-4x2 和 SegMoE-SD4x2 三个模型，用户只需编写 config.yaml 运行命令即可在几分钟内创建自己的 MoE 模型。
推荐理由：官方介绍了 SegMoE 的 MoE 架构、三个已发布模型和自制方法，读者可以据此尝试组合预训练扩散模型。
Hugging Face BlogAI 评分3636 NPHardEval 排行榜上线：用复杂度类与动态更新测大语言模型推理能力
密歇根大学和罗格斯大学研究团队推出 NPHardEval 排行榜，通过基于计算复杂度类的 900 道算法题（覆盖 P、NP-complete、NP-hard 共 9 种算法、10 个难度级别）评估 LLM 推理能力。
Hugging Face Blog精选AI 评分6464 Hugging Face 发布开源模型 Constitutional AI 完整配方及 llm-swarm 工具
Hugging Face 发布了用开源模型实现 Anthropic Constitutional AI 的端到端配方，并开源了基于 TGI 和 vLLM、在 Slurm 集群上做规模化合成数据生成的工具 llm-swarm。
推荐理由：原文给出了开源模型跑通 Constitutional AI 的完整配方与实验数据，读者可以照着复现自己的对齐流程。
Hugging Face BlogAI 评分3030 Hugging Face 上手指南：PatchTST 时间序列 Transformer 如何做预测与迁移学习
Hugging Face 发布 PatchTST 模型上手教程，演示其在 Electricity 数据集上的时间序列预测训练，以及在 ETTh1 数据集上的零样本迁移学习能力，再通过线性探测和微调验证目标域预测性能。
Hugging Face BlogAI 评分3636 Hugging Face Text Generation Inference 正式支持 AWS Inferentia2
Hugging Face 宣布 Text Generation Inference（TGI）在 AWS Inferentia2 和 Amazon SageMaker 上正式可用，用于大规模部署和提供 LLM 生产级服务。
OpenAI NewsAI 评分4848 OpenAI 构建 LLM 辅助生物威胁生成的预警系统评估框架
OpenAI 正在开发一套评估大语言模型可能助力生物威胁创建风险的框架，在包含生物学专家和学生的评测中，GPT-4 对生物威胁创建准确率的提升最多仅为轻微（mild uplift）。该提升幅度尚不足以得出确定性结论，但这一发现为后续研究和社区讨论提供了起点。
Hugging Face BlogAI 评分4747 Patronus 推出 Enterprise Scenarios Leaderboard：面向真实企业用例的大模型排行榜
Patronus 团队基于 Hugging Face Leaderboard Template 推出 Enterprise Scenarios Leaderboard。
Hugging Face BlogAI 评分3737 如何用 Optimum Intel 在 Xeon 上加速 StarCoder：Q8/Q4 量化与投机解码
Hugging Face 联合 Intel 展示了在第四代 Xeon（借助 AMX 加速）上优化 StarCoder-15B 推理的方法，通过 SmoothQuant 实现 Q8 量化，TTFT 加速约 2.19x、TPOT 加速约 2.20x 且精度无损失；再结合 4bit 权重唯一量化和 assisted generation，实现超过 7x 的推理加速。
Hugging Face BlogAI 评分5050 Hugging Face 推出开源幻觉排行榜，评估大语言模型的幻觉问题
Hugging Face 推出开源的 Hallucinations Leaderboard，通过上下文学习（in-context learning）在多个幻觉相关基准上评估大语言模型的可靠性。
Hugging Face BlogAI 评分4040 Secure Learning Lab 推出 LLM Safety Leaderboard
Secure Learning Lab 在 Hugging Face 上发布了新的 LLM Safety Leaderboard，专注于大语言模型安全评估，由 HF leaderboard template 驱动。
Hugging Face Blog精选AI 评分6161 Hugging Face 与 Google Cloud 达成开源 AI 战略合作
Hugging Face 宣布与 Google Cloud 建立战略合作伙伴关系，围绕开放科学、开源和云硬件展开合作。
推荐理由：来自当事方官方公告，讲清了合作的四个方向和具体落地场景，读者可了解 Hugging Face 模型在 Google Cloud 上的可用路径。