SafeCoder 对比闭源代码助手
Hugging Face 推出企业级代码助手 SafeCoder,基于 BigCode 项目开源的 StarCoder 模型(15.5B 参数、80+ 编程语言、8192-token 上下文窗口),训练数据为 The Stack 中 1 trillion 代码 token。
Hugging Face 推出企业级代码助手 SafeCoder,基于 BigCode 项目开源的 StarCoder 模型(15.5B 参数、80+ 编程语言、8192-token 上下文窗口),训练数据为 The Stack 中 1 trillion 代码 token。
OpenAI 发布了一份面向教师的 ChatGPT 教学指南,涵盖建议提示词、ChatGPT 的工作原理及其局限性,并讨论了 AI 检测器的有效性与偏见问题。指南旨在帮助教师在课堂中更好地使用 ChatGPT。
OpenAI 发布 ChatGPT Enterprise,面向企业客户提供企业级安全与隐私保障,并称这是迄今为止最强大的 ChatGPT 版本。原文仅为摘要,未提供更多功能与定价细节。
推荐理由:OpenAI 官方宣布推出 ChatGPT Enterprise,原文强调企业级安全与隐私以及迄今最强版本,可作为企业版本发布的信源记录。
Hugging Face 宣布自 2023 年 10 月 1 日起,通过 Git 操作 Hugging Face Hub 时不再支持密码认证,用户需改用个人访问令牌或 SSH 密钥。令牌具有唯一、可撤销、随机等安全优势。目前仍在使用密码的用户将收到邮件提醒,需在截止日期前完成切换,可通过 git remote set-url 命令更新仓库地址。
Hugging Face 发布面向企业的代码助手解决方案 SafeCoder,支持客户在自有基础设施内微调并自托管 Code LLM,训练和推理过程中代码不离开客户 VPC。
Hugging Face Hub 现已登陆 AWS Marketplace,用户可通过 AWS 账户直接为 Hugging Face 服务付费。订阅后,组织内所有成员使用 Inference Endpoints、Spaces Hardware Upgrades、AutoTrain 等服务的费用将自动出现在 AWS 账单中,价格与 Hugging Face 公开定价一致。
Hugging Face 发布 swift-transformers 等 alpha 工具,帮助 Swift 开发者在 Apple 设备上用 Core ML 运行 Llama 2 等语言模型。
推荐理由:官方一手发布了在 Apple 设备上跑 LLM 的 Swift 工具链,并给出 Core ML 转换、优化和已知坑的实操经验。
Hugging Face 在 huggingface.js 下推出 Agents.js 库,让 LLM 可在浏览器或服务端通过 JavaScript 调用工具,通过 npm install @huggingface/agents 安装。
OpenAI 为 ChatGPT 推出自定义指令功能,用户可设置偏好,ChatGPT 会在之后的所有对话中记住并遵循这些设置,让用户对回复方式有更多控制。
推荐理由:原文说明了自定义指令的作用范围,读者可以据此了解如何让 ChatGPT 在对话中保持个人偏好。
OpenAI 宣布 API 更新,包括更可控的模型、函数调用能力、更长的上下文以及更低的价格。
推荐理由:原文列出了函数调用、更长上下文和降价等具体更新方向,读者可以据此评估对现有 API 用法的影响。
Hugging Face 宣布用户可以在 Hub 上的任何数据集上用 DuckDB 运行 SQL 查询。Dataset Viewer 会自动把所有公开数据集转换为 Parquet 文件,可通过 /parquet 端点获取文件 URL;借助 httpfs 扩展,DuckDB 能直接对远程 Parquet 文件执行 SQL,并支持查询被切分为 500MB 分块的大数据集。
推荐理由:官方介绍了用 DuckDB 直接对 Hub 上 5 万多数据集跑 SQL 的方法,读者可以照着把 Parquet 端点和查询代码迁移到自己的数据探索流程。
OpenAI 推出网络安全资助计划,通过赠款及其他支持,帮助防御者开发由 AI 驱动的网络安全能力。
Hugging Face 宣布 BERTopic 集成到 Hugging Face Hub。该集成支持基于主题建模对 Hub 上的模型和数据集内容进行组织与探索。相关功能现已上线 Hugging Face Hub。
Hugging Face 推出基于 Text Generation Inference(TGI)的 LLM Inference Container,用于在 Amazon SageMaker 上部署开源大模型,示例将 Open Assistant 12B(Pythia)部署到 ml.g5.12xlarge 实例(4 张 NVIDIA A10G、96GB GPU 显存)。
Hugging Face 与 Microsoft 合作,在 Azure Machine Learning Studio 内推出 Hugging Face Hub Model Catalog,收录 Hub 上数千个最受欢迎的 Transformers 模型。
Hugging Face 宣布与 IBM 合作,为其新一代企业 AI 工作室 watsonx.ai 提供开源支持,该平台用于训练、验证、调优和部署传统 ML 与生成式 AI 能力。
OpenAI 推出 ChatGPT iOS 应用,支持对话同步、语音输入,并将最新模型改进带到移动端。
Databricks 向 Hugging Face 代码库提交首个官方贡献:Datasets 新增 from_spark 函数,可将 Apache Spark dataframe 直接转为 Hugging Face Dataset,免去先写 Parquet 再重新加载的繁琐流程。16GB 数据集的处理时间从 22 分钟降至 12 分钟,缩短超过 40%。
OpenAI 为 ChatGPT 推出新的数据管理方式,用户现在可以关闭聊天记录,并自行选择哪些对话可用于训练 OpenAI 的模型。
Hugging Face 推出面向中文读者的中文博客(hf.co/blog/zh),由志愿者团队翻译博客文章及 Transformer、扩散模型、强化学习等课程,服务不断壮大的中文 AI 社区。
Hugging Face 与 AWS 合作,针对 AWS Inferentia2 推理加速器优化 Hugging Face Transformers,通过 optimum neuron 只需一行代码即可编译模型。
OpenAI 宣布推出 Bug Bounty 漏洞赏金计划,邀请外部人员帮助发现其技术与服务的安全漏洞。OpenAI 表示该举措是其开发安全、可靠、可信的先进 AI 承诺的重要一环。
OpenAI 发布 3 月 20 日 ChatGPT 故障的调查结果,说明了问题起因、已采取的补救措施,以及该 bug 的技术细节。
OpenAI 宣布在 ChatGPT 中实现插件的初步支持。插件是专为语言模型设计、以安全为核心原则的工具,可帮助 ChatGPT 获取最新信息、运行计算或使用第三方服务。
推荐理由:原文来自 OpenAI 官方,说明了插件的三类能力定位和安全原则,可帮助读者理解 ChatGPT 能力边界的扩展方向。
Hugging Face Hub 宣布改进 Jupyter notebook(.ipynb)托管支持,新增渲染功能,此前以 JSON 格式存储的 notebook 现在可直接以人类可读格式显示。
OpenAI 发文介绍 Be My Eyes 应用使用 GPT-4 改善视觉无障碍体验。正文仅给出核心信息,未提供更多细节。
Khan Academy 通过一个有限的试点项目探索 GPT-4 在教育领域的应用潜力,将 GPT-4 引入虚拟课堂教学场景。
OpenAI 的 GPT-4 被 Duolingo 用于深化其语言学习对话体验。借助 GPT-4,Duolingo 弥补了语言学习中的关键缺口,为学习者提供更深入的对话练习。
Hugging Face 发布 Diffusers for Mac 1.1,这是一款基于 Core ML 的开源原生 Mac 文生图应用,文生图速度最高可提升至两倍。
Hugging Face 推出开源工具 AI vs. AI,托管在 Spaces 上,通过持续对战和 ELO 排名(初始分 1200,胜方 +10 / 负方 -10)对多智能体强化学习模型做相对评估。
OpenAI 宣布为 ChatGPT 推出试点订阅计划 ChatGPT Plus。ChatGPT 是可对话、回答追问并能纠正错误假设的会话式 AI。
推荐理由:OpenAI 官方宣布 ChatGPT 试点订阅计划上线,可作为该商业化路径的起点记录。
OpenAI 推出一款新分类器,用于区分 AI 生成的文本与人类撰写的文本。
Hugging Face 过去一年在计算机视觉领域持续投入,Hub 上现已支持 8 个核心视觉任务、超过 3000 个模型和 100 多个数据集,每个任务至少提供 10 个模型检查点。
Hugging Face 与 Microsoft ONNX Runtime 团队合作,通过 Optimum 库的 ORTTrainer API 为 Transformer 模型训练加速,配合 DeepSpeed ZeRO Stage 1 在单台 8 卡 Nvidia A100 节点上测得 39% 到 130% 的加速。
Hugging Face 与 PaddlePaddle 达成开源合作,PaddleNLP 将率先接入,其各模态模型库将逐步集成到 Hub 上。
OpenAI 展示了用 GPT-3 从客户反馈中快速提炼细致洞察的方法。该应用可对大量客户评论进行分类和总结,帮助企业更快理解用户需求并改进产品。
OpenAI 通过微调 GPT-3 来驱动并规模化"全托管"视频创作服务。微调后的模型用于提升自动化视频生成的能力与可扩展性。
OpenAI 使用 GPT-3 创建下一代 AI 驱动的角色。这一应用展示了 GPT-3 在生成式角色创作方面的能力,为 AI 驱动角色的发展提供了新方向。
Hugging Face 发布 Model Card Creator 工具、更新版模型卡模板及指南手册,让用户无需编程即可创建模型卡。本次发布还包括标注版模板、Hugging Face 内部用户研究,以及模型文档现状的文献综述。团队未来计划将 Evaluate on the Hub 等工具的自动评估结果导入模型卡工作流。
中科大与 Microsoft 开发的 VQ-Diffusion 是一个条件潜在扩散模型,其加噪与去噪过程在由离散向量组成的量化潜在空间上进行,现可通过 🧨 Diffusers 加载 microsoft/vq-diffusion-ithq 管线几行代码运行,支持 FP16 权重。