LM Studio

사용자가 대형 언어 모델(LLM)을 로컬에서 오프라인으로 탐색, 다운로드, 실행할 수 있도록 지원하는 데스크톱 애플리케이션입니다. 프라이버시와 완전한 오프라인 기능을 제공합니다.

커뮤니티:

대형 언어 모델 (LLMs)AI 개발자 도구 AI 챗봇 클라이언트

웹사이트 방문

Atoms - AI로 코드 없이 웹사이트·앱 제작

Atoms

Sponsor

코딩 없이 몇 분 만에 아이디어를 검증하고, 웹사이트와 앱을 만들며, 첫 고객을 확보하세요.

개요
대안
분석

Atoms - AI로 코드 없이 웹사이트·앱 제작

제품 개요

LM Studio이란 무엇인가요?

LM Studio는 대형 언어 모델을 인터넷 연결 없이 로컬 PC에서 실행하고 실험할 수 있도록 설계된 다목적 데스크톱 앱입니다. macOS, Windows, Linux 플랫폼을 지원하며, llama.cpp 및 Apple의 MLX와 같은 오픈소스 런타임을 활용해 효율적인 모델 실행이 가능합니다. 사용자는 Hugging Face 저장소에서 다양한 LLM을 탐색 및 다운로드하고, ChatGPT와 유사한 인터페이스로 모델과 상호작용하며, RAG 기반 오프라인 문서 상호작용 등 고급 기능도 수행할 수 있습니다. 또한 OpenAI 호환 로컬 API 서버를 제공하여 맞춤형 애플리케이션 및 스크립트와의 원활한 통합이 가능하며, 데이터 프라이버시와 AI 워크로드에 대한 통제권을 보장합니다.

주요 기능

로컬 LLM 실행
대형 언어 모델을 인터넷 연결 없이 자신의 하드웨어에서 실행하여 데이터 프라이버시와 오프라인 접근성을 완벽하게 보장합니다.
모델 탐색 및 관리
앱 내에서 Hugging Face 저장소에서 다양한 오픈소스 LLM을 탐색, 다운로드 및 로드할 수 있습니다.
문서 상호작용 채팅 인터페이스
직관적인 채팅 UI를 통해 모델과 대화하고, RAG를 활용해 로컬 문서를 질의하여 더 풍부한 맥락을 제공합니다.
OpenAI 호환 API 서버
OpenAI 엔드포인트와 호환되는 REST API를 통해 로컬 모델을 외부 애플리케이션 및 스크립트와 통합할 수 있습니다.
크로스 플랫폼 지원
macOS(Apple Silicon 포함), Windows(x64/ARM64), Linux에서 사용할 수 있으며 llama.cpp, MLX 등 다양한 런타임을 지원합니다.
고급 커스터마이징 및 개발자 도구
CLI 도구, Python을 포함한 SDK, 개발자 모드, 모델 파라미터 및 워크플로우의 세밀한 조정 옵션을 제공합니다.