AI 编程开发AI大模型PC软件

LM Studio

LM Studio 是一个桌面应用程序,可以在本地计算机上运行 LLM大语言模型。

标签:

LM Studio是什么

LM Studio 是一个桌面应用程序,用于在您的计算机上本地运行和评估大型语言模型(LLMs),可以轻松地比较不同的模型,并支持使用NVIDIA/AMD GPU 加速计算。

通过LM Studio,用户可以通过应用内聊天界面或OpenAI兼容的本地服务器使用模型,还可以下载、安装并运行各种基于Hugging Face 的模型文件,无需编写代码即可在本地测试模型性能。

LM Studio主要功能

✅ LM Studio Server
通过在本地主机上运行的类似 OpenAI 的 HTTP 服务器使用本地 LLM

✅ 文本嵌入
使用 LM Studio 的嵌入服务器在本地生成文本嵌入(对 RAG 应用程序有用)

LM Studio支持的设备

  • Windows(x86、x64、AVX2)
  • MacOS(Apple 芯片 – M1/M2/M3)
  • Linux(x86、Ubuntu 22.04、AVX2)

LM Studio官网下载地址:https://lmstudio.ai/

LM Studio官网说明文档:https://lmstudio.ai/docs/welcome

数据统计

类似工具

暂无评论

暂无评论...