Tyler Cowen 谈 OpenAI o1 如何解答复杂经济学问题
经济学家 Tyler Cowen 讲解 OpenAI o1 处理复杂经济学问题的方式,展示该模型在经济学推理任务上的表现。
经济学家 Tyler Cowen 讲解 OpenAI o1 处理复杂经济学问题的方式,展示该模型在经济学推理任务上的表现。
遗传学家 Catherine Brownstein 展示了如何用 OpenAI o1 加速罕见疾病诊断过程。o1 在该场景下用于辅助解码基因信息,缩短罕见疑难病症的诊断耗时。
量子物理学家 Mario Krenn 使用 OpenAI o1 协助解答物理问题。原文内容较为简短,仅说明他将该模型用于探索重大科学问题的研究工作。
Cognition 联合创始人兼 CEO Scott Wu 解释了 OpenAI o1 如何以更像人类的方式做出编程决策。
客服公司 Ada 采用 GPT-4 提升客户服务质量。借助 GPT-4,Ada 为客户提供更高水平的自动化客服支持,树立新的行业标准。
Hugging Face 宣布与 Truffle Security 合作,将开源工具 TruffleHog 的密钥扫描集成到平台。
Hugging Face LeRobot 团队提出 LeRobotDataset 格式,用视频编码存储机器人数据集的视觉模态,数据集平均仅为其原大小的 14%(最佳情况可达 0.2%),且保持完整训练能力。解码方面,单帧加载时间与 PNG 压缩图像相当,解码多连续帧时仅为 PNG 加载时间的 25%-50%。该格式轻量、易分享(与 Hub 原生集成)并配有在线可视化工具。
亚利桑那州立大学(Arizona State University)全校采用 ChatGPT,用于个性化学习、推进科研,并帮助学生为未来做好准备。此次合作为该校师生提供了基于 ChatGPT 的校园级应用支持。
Hugging Face 官方博客盘点 Hub 上五个常被忽视的工具:ZeroGPU(免费 A100 GPU,每工作负载 40GB vRAM)、多进程 Docker Space(用 supervisord)、Gradio API、Webhooks 和 Nomic Atlas 语义搜索。
推荐理由:作者用免费语义搜索项目实际串起 ZeroGPU、多进程 Docker、Gradio API、Webhooks 和 Nomic Atlas 的用法,附可直接复用的代码示例。
Hugging Face 通过新 PR 和 DataCollatorWithFlattening 使无填充打包的指令微调训练兼容 Flash Attention 2,TRL 的 SFTTrainer 也可通过 padding_free=True 使用。
OpenAI 宣布 GPT-4o 现已支持微调,用户可使用自有数据对 GPT-4o 进行定制。
OpenAI 介绍 Upwork 如何将 AI 应用于实际业务,把团队成员、运营和产品开发结合起来。
这篇 Hugging Face 教程讲解如何在 Google Cloud A3 节点(8 x H100)上,用 TGI 的 Deep Learning Containers 在 Vertex AI 上部署 Meta Llama 3.1 405B 的 FP8 量化版 Meta-Llama-3.1-405B-Instruct-FP8。
OpenAI 宣布破坏一个隐蔽的伊朗影响力行动,本次抓取仅标题可用,正文细节缺失。
全球第一大招聘网站 Indeed 借助 OpenAI 为求职者提供情境化岗位匹配。Indeed 每月有超过 350 million 独立访客,连接超过 3.5 million 雇主和超过 32 million 个职位,平均每 3 秒就有人在 Indeed 上获得录用。
AI 的艺术潜能在 The Met 服装学院的合作展览「Sleeping Beauties: Reawakening Fashion」中得到展现。展览体现了 AI 如何通过美与创造力丰富生活,凸显了 AI 在艺术领域的应用价值。
Hugging Face 复现 Google 的 Infini-attention 论文后发现,压缩记忆次数越多,性能反而越差,90% 的时间花在调试收敛问题上。
OpenAI 发布 SWE-bench 的人工验证子集 SWE-bench Verified,用于更可靠地评估 AI 模型解决真实软件问题的能力。
Hugging Face 发布 ggml 入门教程,介绍这个专注于 Transformer 推理的 C/C++ 开源机器学习库。教程讲解 ggml_context、ggml_cgraph、ggml_backend 等核心概念,给出在 Ubuntu 上编译运行矩阵乘法示例的完整步骤,并演示了使用 backend、打印计算图和导出 graphviz 格式的方法。
阿布扎比 TII 基于 Mamba 架构发布开源模型 Falcon Mamba 7B,采用 TII Falcon Mamba 7B License 1.0,称在 LLM Leaderboard 两版基准上平均分领先多数同类 Transformer 与 SSM 模型。
推荐理由:原文给出架构设计、训练数据和两版评测基准数字,读者可据此判断无注意力 7B 模型与主流 Transformer 的差距。
Hugging Face 宣布 Transformers 现已提供跨多个热门模型家族的统一工具调用 API,同一份代码可在 Mistral、Cohere、NousResearch 和 Llama 模型间基本无需修改地移植。
推荐理由:原文给出统一工具调用 API 的设计思路和完整代码示例,开源开发者可以照搬接入多个模型家族。
Zico Kolter 加入 OpenAI 董事会,并将加入安全与安保委员会(Safety & Security Committee)。此举旨在以 AI 安全与对齐领域的专业能力强化 OpenAI 的治理。
Hugging Face 官方宣布收购总部位于西雅图的 XetHub,团队来自曾在 Apple 构建内部 ML 基础设施的 Yucheng Low、Ajit Banerjee 和 Rajat Arya。
推荐理由:收购方官方说明整合路径,给出了 Git LFS 换自研存储后对大文件更新方式的具体改变和当前 Hub 规模数据。
Rakuten 将数据与 AI 结合,挖掘客户洞察并释放价值,借助 API 让数据能力转化为客户价值。
Mistral 宣布在 La Plateforme 上开放对 Mistral Large 2 和 Codestral 等旗舰及专家模型的定制,支持 base prompt、few-shot prompting 或 fine-tuning,可使用自己的数据集。
OpenAI 在 API 中推出 Structured Outputs,模型输出现在能可靠地遵循开发者提供的 JSON Schema。
推荐理由:官方说明模型输出可稳定遵循开发者提供的 JSON Schema,对需要可靠结构化输出的工程场景有直接参考价值。
Hugging Face 与 Albumentations AI 合作推出面向文档图像的多模态数据增强 pipeline,可同时修改图像内容与文本标注,用于 VLM 微调。
Hugging Face 盘点截至 2024 年 8 月 6 日 Hub 上的主要安全功能。所有用户可用细粒度 token、双因素认证(2FA)、GPG commit signing、组织级访问控制,以及自动安全扫描流水线(ClamAV 恶意软件扫描、picklescan 扫描 pickle 文件、trufflehog 扫描密钥)。
Google 在 Gemma 2 发布一个月后推出三款新模型:2.6B 参数的 Gemma 2 2B(含 base 和 instruct 版本,适合端侧使用)、基于 Gemma 2 的安全分类器系列 ShieldGemma(2B/9B/27B)以及覆盖 Gemma 2 2B 和 9B 每一层的开源稀疏自编码器套件 Gemma Scope。
推荐理由:原文详细给出 Gemma 2 2B 的端侧用法、辅助生成加速和两个配套工具的评测,对部署和模型解释研究都有可操作的参考价值。
Hugging Face 发布教程,介绍如何用 Quanto 对 Diffusers 中的 Transformer 扩散管线(PixArt-Sigma、Stable Diffusion 3、Aura Flow)做 FP8/INT8/INT4 量化以降低显存占用。
Hugging Face 推出 NVIDIA NIM API (serverless) 推理服务,面向 Enterprise Hub 组织,基于 NVIDIA DGX Cloud 的 H100 GPU 按请求计算时间计费,价格为 $8.25/小时(约 $0.0023/秒)。
OpenAI 正在测试 SearchGPT,这是一个新搜索功能的临时原型。它可以为用户提供快速、及时的答案,并附上清晰、相关的来源。
Hugging Face 在开发 Docmatix 时发现,在其上微调的 Florence-2 在 DocVQA 上表现出色,却因答案格式差异在传统指标上得分很低,额外针对 DocVQA 微调反而被人工评估认为更差。
Mistral AI 发布 Mistral Large 2(版本 24.07,API 名称 mistral-large-2407),参数量 123B,拥有 128k 上下文窗口,MMLU 预训练准确率 84.0%。
OpenAI 开发并应用了一种基于规则的奖励(Rule-Based Rewards,RBRs)新方法,用于对齐模型的安全行为,无需大量人工数据收集。该方法已在 OpenAI 的模型上落地应用。
Meta 发布 Llama 3.1 系列,在 Hugging Face Hub 上线 8B、70B、405B 三个规模共 8 个开放权重模型,上下文长度提升至 128K tokens,支持 8 种语言和工具调用。
推荐理由:官方发布说明覆盖了三个规模、内存需求和量化权重,读者可以据此选择适合自己硬件的部署与微调路径。
Hugging Face 发布教程,演示如何用 WWDC24 的新 Core ML 特性在 Mac 上复现 Mistral 7B 的端侧运行。
推荐理由:原文复现 WWDC24 的 Mistral 7B 端侧运行示例,讲解 MLTensor、状态缓存和 4-bit 量化等新特性与完整转换步骤。
OpenAI 发布 GPT-4o mini,定位为更具成本效益的模型。
Mistral AI 与 NVIDIA 联合发布 12B 模型 Mistral NeMo,支持 128k 上下文窗口,以 Apache 2.0 许可发布 base 与 instruct 权重,官方称其推理、世界知识和编码精度在该规模中达到 SOTA,可作 Mistral 7B 的直接替代。
推荐理由:官方原文给出 12B 规模、128k 上下文、Apache 2.0 权重和 Tekken 分词器的具体压缩数据,可据此评估其在 Mistral 7B 系统中的替换价值。
Hugging Face 发布 Docmatix,一个面向文档视觉问答(DocVQA)的大型数据集,含 240 万张图像和 950 万问答对,来自 130 万份 PDF,规模为此前数据集的 240 倍。