Hugging Face 实测 DPO、IPO、KTO 三种无强化学习偏好对齐方法
Hugging Face 团队在 OpenHermes-2.5-Mistral-7B 和 Zephyr-7b-beta-sft 两个模型上，用 MT-Bench 实测了 DPO、IPO、KTO 三种无需强化学习的偏好对齐方法。
#评测/基准
#评测/基准
今日 0 条Hugging Face BlogAI 评分5252
Hugging Face BlogAI 评分5454 Hugging Face 排查 Open LLM Leaderboard 中 DROP 评测分数异常并暂时移除该基准
Hugging Face 宣布从 Open LLM Leaderboard 中移除 DROP 基准，原因是多数模型 f1 分数异常低于 10。排查发现归一化步骤会漏掉后接非空格空白字符的数字，且以句号作为生成结束符会截断浮点答案并拉低高质量模型分数；按换行符重切分后分数与整体表现相关性明显改善。团队在与 EleutherAI 讨论后决定待新版本评测开发完成前先移除 DROP，并邀请社区反馈。
Hugging Face BlogAI 评分4242 Hugging Face 发布 Object Detection Leaderboard 并详解目标检测评测指标
Hugging Face 推出 Object Detection Leaderboard，对 Hub 上的目标检测模型按指标排名。文章讲解了 IoU、AP、AR 等指标的计算方法，并指出评测中可能导致不同报告结果不一致的偏差与陷阱。开发者可据此在数百个开源模型中挑选最适合自身应用的目标检测模型。
Hugging Face BlogAI 评分4242 Hugging Face 伦理与社会通讯 #4：文生图模型中的偏见问题
Hugging Face 在伦理与社会通讯第 4 期中探讨文生图模型的偏见来源，包括训练数据（如 LAION-5B）、预训练数据过滤、CLIP 推理、隐空间及事后过滤等环节。
Hugging Face BlogAI 评分5656 Hugging Face 解析 Open LLM Leaderboard 上 MMLU 分数差异的来源
Hugging Face 团队调查 Open LLM Leaderboard 上 LLaMA 的 MMLU 分数低于论文报告值的原因，发现同一 MMLU 数据集存在 Original、HELM 和 EleutherAI Harness 三种实现。
Hugging Face BlogAI 评分4545 MTEB：大规模文本嵌入基准发布
Hugging Face 发布 MTEB（Massive Text Embedding Benchmark），用于衡量文本嵌入模型在多种任务上的表现，排行榜已汇总超过 2000 个结果。