AgentPantheon
L

LM Studio桌面应用程序,用于在本地运行离线的 LLM,保留完全的数据隐私

4.3 (6)
Daniel Nikulshyn审阅者 Daniel Nikulshyn·更新 2026年5月

概览

LM Studio 是一款桌面应用程序,允许用户在自己的电脑上下载、运行并与开源大型语言模型聊天。它支持来自 Hugging Face 的多种模型,包括 Llama、Mistral、Gemma 以及 Qwen 变体,并可在 Windows、macOS 和 Linux 上使用。 该应用提供内置聊天界面、模型发现工具以及模仿 OpenAI API 的本地服务器,方便将本地模型集成到现有的应用程序和工作流程中。由于所有功能均在设备上运行,交互和文档永不离开用户的机器。 LM Studio 适用于个人免费使用,面向开发者、研究人员以及注重隐私的用户,帮助他们在不依赖云服务的情况下实验或部署 LLM。

主要功能

  • 应用内模型浏览器和下载器
  • 任何可安装模型的本地聊天界面
  • 兼容 OpenAI API 的本地服务
  • GPU 加速和可配置的 inference 设置
  • GGUF 和 MLX 模型格式支持
  • 本地检索支持

价格

模型
Free
评分
4.3 / 5 (6)

使用场景

私人离线 AI 聊天

与 Llama、Mistral 或 Qwen 等开源 LLM 进行完全的私人聊天,保持对话和敏感数据的完整隐私,根本不需要依赖云服务

本地兼容 OpenAI API

建立一个本地的服务,模仿 OpenAI API 来为流程和应用程序提供基于本地模型的机器人服务,仅需替换现有的云端点就能继续使用

在敏感文档中实施 Q&A

使用内置的 Document Q&A 来本地询问私有文件,非常适合无法将敏感材料上传到外部服务的研究人员或专业人员

在开源模型中进行试验

浏览、下载和测试 Hugging Face 的 GGUF 和 MLX 模型范围,并具有可配置的 GPU 加速,适合开发人员评估模型表现

优点 & 缺点

优点

  • 用户设备上全线操作,保持数据隐私
  • 免费用于个人用途,无需创建账户
  • 支持多个支持 GGUF 格式的开源模型
  • 包括兼容 OpenAI API 的本地服务
  • 支持多个平台
  • 本地 GPU 加速

缺点

  • 硬件性能对线性能有很大影响
  • 庞大的模型需要大量的 RAM 和磁盘空间
  • 没有上游的商业云模型的功能
  • 商业使用可能需要单独的许可证

评测

4.3

6 个评分的平均值。

5
2
4
4
3
0
2
0
1
0

登录以留下评测。

H

Hiroshi Tanaka

May 8, 2026

Solid for our team

We rolled this out across the team last quarter and cross-platform support for Windows, macOS, and Linux. Local chat interface for any installed model fits neatly into how we already work, and gPU acceleration and configurable inference settings removed a step we used to do by hand. Large models require significant RAM and disk space, which is the main caveat, but it has held up under daily use.

N

Naomi Suzuki

Feb 5, 2026

Compared a few options

Evaluated this against two competitors. Where it wins: document chat with local retrieval and supports many open-source models in GGUF format. On balance the feature set — especially local chat interface for any installed model — justifies the 5 stars for our use case.

M

Mei-Ling Wong

Feb 2, 2026

Does the job

Pretty happy overall. OpenAI-compatible local API server just works and includes a local OpenAI-compatible API server. but no dealbreakers — I'd recommend it to a friend without hesitating.

A

Aisha Khan

Nov 28, 2025

Use it every day

Honestly didn't expect to like it this much. Document chat with local retrieval is exactly what I needed, and includes a local OpenAI-compatible API server. I do wish performance depends heavily on local hardware, but I reach for it almost every day now and it just clicks.

A

Ahmed Saleh

Nov 10, 2025

Use it every day

Honestly didn't expect to like it this much. GPU acceleration and configurable inference settings is exactly what I needed, and free for personal use with no account required. I do wish performance depends heavily on local hardware, but I reach for it almost every day now and it just clicks.

R

Robert Ainsworth

Jul 15, 2025

Solid for our team

We rolled this out across the team last quarter and fully offline, keeping data private on the user's device. GPU acceleration and configurable inference settings fits neatly into how we already work, and support for GGUF and MLX model formats removed a step we used to do by hand. Commercial use may require a separate license, which is the main caveat, but it has held up under daily use.

问答

暂无问题 — 来当第一个提问的人吧。

提问

Model Serving 的替代品