📦 AI 工具 | Windows / Linux / macOS | 开源项目
📌 简单说:
👉 将大型 AI 模型部署在自己的电脑上,减少对云端 API 的依赖,同时增强数据隐私与本地运行能力。
💻 硬件提示:
➤ 大型模型对内存、显存和存储空间要求较高。
➤ 125B 参数模型能否运行及运行速度,取决于量化精度、内存容量、显卡配置和模型架构。
➤ 32GB / 64GB 内存不代表一定能流畅运行 125B 模型,实际需求应以项目文档和具体模型配置为准。
📢 项目地址:
GitHub — Strata
📂 #Strata #本地大模型 #AI推理 #LLM #MoE #开源项目 #本地部署 #AI编程