跳到正文
原文
Hugging Face Blog·· 2025-03-07精选AI 评分61

Hugging Face 教程:用 React Native 在手机上本地运行 LLM

LLM Inference on Edge: A Fun and Easy Guide to run LLMs via React Native on your Phone!

AI 导读

Hugging Face 发布端侧推理教程,用 React Native、llama.rn(llama.cpp 绑定)和 react-native-fs 构建可从 Hub 下载 GGUF 模型并完全离线对话的移动应用,代码在 EdgeLLM 仓库。

推荐理由

教程讲解模型选择与 GGUF 量化差异,并用 llama.rn 完整走通端侧聊天应用,方法可直接复用。

来源:Hugging Face Blog · huggingface.co