NobodyWho

NothingWho 是一个推理引擎，用于完全在设备上运行 LLM，基于 llama.cpp 构建。开源、免费、无 API 密钥、无云调用。我们支持 Swift、Kotlin、Flutter、React Native、Python 和 Godot。包括具有自动语法生成功能的类型安全工具调用、多模式输入、文本到语音和语音到文本、通过 Vulkan 和 Metal 进行的 GPU 加速以及 Hugging Face 模型下载。