跳到正文
北京时间
原文
Unsloth AI· @UnslothAI · X·· 12 天前精选AI 评分68
AI 导读

Unsloth 宣布可使用其 Docker 镜像本地训练和运行 500+ 模型,提供新 GUI 和 notebooks 工作流,无需配置,支持 NVIDIA 和 AMD,指南见 https://unsloth.ai/docs/get-started/install/docker。

推荐理由

官方介绍了新 Docker 镜像和 Desktop 应用,列出本地训练运行模型的硬件支持与效率数字,读者可据此评估本地部署方式。

正文 · AI 翻译

现在,你可以用我们的 Unsloth Docker 镜像在本地训练和运行 500+ 个模型了!🐳

使用我们全新的 GUI 或 notebook 工作流。无需任何配置。支持 NVIDIA 和 AMD。

指南:https://unsloth.ai/docs/get-started/install/docker
GitHub:https://github.com/unslothai/unsloth

引用Unsloth AI@UnslothAI
推出 Unsloth Desktop 🦥 首个可在本地运行和训练模型的桌面应用。 • 开源。支持 Mac、Windows 和 Linux • 支持 MLX、扩散图像/视频、音频、GGUF • 将 Claude Code 和 Codex 连接到本地 LLM • 准确率提升 50%,自愈式工具调用 + 沙箱化代码执行 • 适用于 CPU + 多 GPU 配置——NVIDIA、AMD、Intel、Mac • 训练模型速度提升 2×,VRAM 占用减少 70% • 私密网页搜索、深度研究、RAG、MCP 及导出(NVFP4、GGUF) • 使用 Unsloth 的 OpenAI 兼容 API 和云端模型 • 安全地远程部署 LLM,随时随地访问 Unsloth Desktop 现已在 http://unsloth.ai 和 GitHub 上发布。 GitHub:https://github.com/unslothai/unsloth 博客与指南:https://unsloth.ai/docs/desktop
原文

Introducing Unsloth Desktop 🦥 The first desktop app to run and train models locally. • Open-source. Runs on Mac, Windows and Linux • Supports MLX, diffusion image/video, audio, GGUF • Connect Claude Code and Codex to local LLMs • 50% more accurate, self-healing tool calls + sandboxed code exec • Works for CPU + multiGPU setups - NVIDIA, AMD, Intel, Mac • Train models 2× faster with 70% less VRAM • Private web search, deep research, RAG, MCP and exports (NVFP4, GGUF) • Use Unsloth’s OpenAI-compatible API and cloud models • Securely deploy LLMs remotely and access anywhere Unsloth Desktop is now available on http://unsloth.ai and GitHub. GitHub: https://github.com/unslothai/unsloth Blog and Guide: https://unsloth.ai/docs/desktop

在 X 查看被引用的帖子

来源:Unsloth AI · x.com