<div id="readability-page-1" class="page"><div>
<article>
<header>


</header>
<nav id="table-of-contents">
<ul>
<li><a href="#lm-studio-%EC%A7%80%EC%9B%90-%EC%9A%B4%EC%98%81-%EC%B2%B4%EC%A0%9C-%EB%B0%8F-%EC%B5%9C%EC%86%8C-%EC%82%AC%EC%96%91">LM Studio 지원 운영 체제 및 최소 사양</a></li>
<li><a href="#lm-studio-%EB%8B%A4%EC%9A%B4%EB%A1%9C%EB%93%9C-%EB%B0%8F-%EC%84%A4%EC%B9%98">LM Studio 다운로드 및 설치</a></li>
<li><a href="#lm-studio%EB%A1%9C-llm-%EB%AA%A8%EB%8D%B8%EA%B3%BC-%EB%8C%80%ED%99%94%ED%95%98%EB%8A%94-%EB%B0%A9%EB%B2%95">LM Studio로 LLM 모델과 대화하는 방법</a></li>
<li><a href="#llm-%EB%AA%A8%EB%8D%B8-%ED%99%95%EC%9D%B8-%EB%B0%8F-%EC%83%88%EB%A1%9C%EC%9A%B4-%EB%AA%A8%EB%8D%B8-%EB%8B%A4%EC%9A%B4%EB%A1%9C%EB%93%9C">LLM 모델 확인 및 새로운 모델 다운로드</a></li>
<li><a href="#lm-studio-%EC%84%9C%EB%B2%84%EC%99%80-%EB%AA%A8%EB%8D%B8-%EA%B4%80%EB%A6%AC-%EA%B8%B0%EB%8A%A5">LM Studio 서버와 모델 관리 기능</a></li>
<li><a href="#%EB%A7%88%EC%B9%98%EB%A9%B0">마치며</a></li>
</ul>
</nav>
<p>LM Studio는 로컬 환경에서 공개된 LLM 모델을 실행해 볼 수 있는 앱입니다. LLM은 Large Language Model의 줄임말로, 로컬 LLM 앱을 사용해 ChatGPT와 같은 서비스를 인터넷 없이 로컬에서 실행할 수 있습니다. 특히 LM Studio를 사용하면, LLM 모델이나 개발 지식 없이도 LLM 모델을 클릭 몇 번 만으로 실행해볼 수 있습니다.</p>
<p>이 글에서는 LM Studio 설치부터 실제로 사용하는 방법까지 살펴보겠습니다.</p>
<h2 id="lm-studio-지원-운영-체제-및-최소-사양">LM Studio 지원 운영 체제 및 최소 사양<a href="#table-of-contents">#</a>
</h2>
<p>LM Studio는 윈도우, 맥OS, 리눅스를 지원하고 있습니다. 2024년 12월 현재 최신 버전은 0.3.5입니다.</p>
<p>로컬 LLM을 실행하기 위한 최소 사양이 따로 정해진 것은 업습니다. 일반적으로 알려져있는 것처럼 GPU가 있으면 LLM 추론이 빠릅니다. LLM 모델을 돌릴 때 중요한 것은 GPU의 VRAM 크기입니다. 하지만 작은 모델들은 GPU VRAM이 크지 않아도 잘 동작하며, RAM만 충분하면 CPU로도 실행할 수 있으니 크게 걱정하지 않아도 괜찮습니다. 모델 크기 10GB 이상되는 파일을 빠르게 돌리기 위해서는 VRAM 10GB 이상을 가진 고성능 GPU가 필요합니다. 리소스가 부족한 경우 모델을 로드하지 못 하거나, 매우 느리게 동작할 수 있습니다.</p>
<p>애플 실리콘 맥북의 경우 CPU와 GPU가 메모리를 공유한다는 장점이 있습니다. LLM 실행 속도는 NVIDIA GPU보다 느리더라도 큰 모델을 실행해보기 유리할 수 있습니다.</p>
<h2 id="lm-studio-다운로드-및-설치">LM Studio 다운로드 및 설치<a href="#table-of-contents">#</a>
</h2>
<p>아래 공식 웹사이트에서 최신 버전의 LM Studio를 다운로드 받을 수 있습니다.</p>
<ul>
<li><a href="https://lmstudio.ai/">LM Studio - Discover, download, and run local LLMs</a></li>
</ul>
<p>자신이 사용하는 운영체제의 파일을 다운로드 받습니다. 운영체제 별 설치 방법은 크게 어렵지 않습니다.</p>
<figure>
<img src="https://www.lainyzine.com/ko/article/starting-local-llm-with-lm-studioassets/image.png" alt="LM Studio 공식 웹사이트" width="1444" height="1000" loading="lazy">
</figure>
<p>안내에 따라 설치를 진행하고 LM Studio를 실행합니다. LM Studio로 로컬에서 LLM 모델을 실행하기 위해서는, 먼저 LLM 모델을 다운로드 받아야합니다. 첫 화면에 나오는 “Get your first LLM” 버튼을 클릭합니다.</p>
<figure>
<img src="https://www.lainyzine.com/ko/article/starting-local-llm-with-lm-studioassets/image%202.png" alt="LM Studio에서 첫 모델 다운로드" width="1441" height="1000" loading="lazy">
</figure>
<p>LM Studio에서는 처음 사용할 모델로 Llama3.2:1b 모델을 추천합니다. 추천하는 모델은 시스템이나 운영체제에 따라 달라질 수 있습니다. 여기서는 이 모델을 그대로 사용해보겠습니다. Download 버튼을 클릭합니다. LLM의 경우 작은 모델도 최소 1GB 이상으로 큰 편입이니, HDD 용량을 먼저 확보해두시기 바랍니다.</p>
<figure>
<img src="https://www.lainyzine.com/ko/article/starting-local-llm-with-lm-studioassets/image%203.png" alt="Llama 3.2 1B 모델을 다운로드 합니다" width="1500" height="897" loading="lazy">
</figure>
<p>오른쪽 아래 팝업 창에 다운로드 완료 팝업이 나타납니다. 다운로드가 완료되면 이제 로컬에서 LLM을 실행할 준비를 마쳤습니다. 팝업 창의 Load Model을 클릭합니다.</p>
<figure>
<img src="https://www.lainyzine.com/ko/article/starting-local-llm-with-lm-studioassets/image%204.png" alt="다운로드가 완료되면 모델을 로드합니다" width="1392" height="750" loading="lazy">
</figure>
<h2 id="lm-studio로-llm-모델과-대화하는-방법">LM Studio로 LLM 모델과 대화하는 방법<a href="#table-of-contents">#</a>
</h2>
<p>LM Studio의 사이드 바는 크게 4가지 기능으로 구성되어있습니다. LM Studio에서 LLM 모델과 대화하려면 첫 번째 아이콘인 Chats를 클릭합니다. 오른쪽 상단에서 현재 로드된 모델을 확인하거나 다른 모델을 불러올 수 있습니다. 현재 모델은 <a href="https://huggingface.co/hugging-quants/Llama-3.2-1B-Instruct-Q8_0-GGUF">hugging-quants/Llama-3.2-1B-Instruct-Q8_0-GGUF</a> 모델인 것을 확인할 수 있습니다.</p>
<p>ChatGPT를 사용하듯이 아래 채팅 창에서 대화를 해봅니다. Assitant(LLM 모델)이 요청한 사항에 대해서 대답을 해줍니다. 윈도우의 경우 GPU가 있는 경우 드라이버만 설치되어있으면 자동으로 GPU를 사용하니 별도의 설정이 필요하진 않습니다.</p>
<figure>
<img src="https://www.lainyzine.com/ko/article/starting-local-llm-with-lm-studioassets/image%205.png" alt="LM Studio로 로컬의 LLM 모델과 대화하는 화면" width="1500" height="961" loading="lazy">
</figure>
<p>특정 채팅에 마우스를 올려보면, 해당 메시지에 대한 추가 정보를 얻을 수 있습니다.</p>
<figure>
<img src="https://www.lainyzine.com/ko/article/starting-local-llm-with-lm-studioassets/image%208.png" alt="메시지에 대한 추가 정보" width="1500" height="348" loading="lazy">
</figure>
<p>예를 들어 첫 토큰을 생성한 시간이라거나, 초당 토큰 생성 수, 총 토큰 수 등이 나옵니다. 메시지 생성이 너무 느린 경우 이 내용을 참고해볼 수 있습니다. 일반적으로 초당 10토큰 정도는 생성되야 실시간으로 사용할만합니다.</p>
<p>또한 오른쪽 아래에는 메시지에 대해서 사용가능한 액션들을 볼 수 있습니다.</p>
<figure>
<img src="https://www.lainyzine.com/ko/article/starting-local-llm-with-lm-studioassets/image%209.png" alt="메시지에 대한 추가 기능들" width="1500" height="577" loading="lazy">
</figure>
<p>각 기능은 다음과 같습니다.</p>
<ul>
<li>Regenerate message(Ctrl + R): 현재 메시지를 다시 생성합니다.</li>
<li>Continue assistant message: 계속 이어서 대답을 생성합니다.</li>
<li>Branch chat after this message: 현재까지 대화 내용이 저장된 새로운 채팅을 만듭니다.</li>
<li>Copy Message: 메시지를 복사합니다.</li>
<li>Edit Message: 메시지를 편집합니다.</li>
<li>Delete Message: 메시지를 삭제합니다.</li>
</ul>
<p>오른쪽 Chats 기능의 사이바에서는 채팅 디렉터리를 생성하거나 새로운 채팅을 생성할 수 있습니다. 혹은 이전 대화를 다시 이어갈 수도 있습니다.</p>
<figure>
<img src="https://www.lainyzine.com/ko/article/starting-local-llm-with-lm-studioassets/image%2010.png" alt="새로운 채팅을 생성하거나 폴더로 관리할 수 있습니다" width="640" height="992" loading="lazy">
</figure>
<p>이제 LM Sudio를 사용해 ChatGPT처럼 로컬 환경에서도 LLM을 활용하기만 하면 됩니다.</p>
<div>
<p>
로컬 LLM이 ChatGPT를 대체할 수 있나요?
</p>
<div>

<p>OpenAI의 ChatGPT, Anthropic의 Claude, 구글의 Gemini 등 다양한 LLM 웹서비스들이 있습니다. 이러한 서비스들은 매우 뛰어난 모델들을 제공하고 있으며, 속도도 매우 빠른 편입니다. 로컬 LLM은 다양한 크기와 속도의 모델들을 선택할 수 있고, 직접 튜닝할 수 있다는 장점이 있습니다. 또한 인터넷 없이도 사용할 수 있습니다.</p>
<p>현재로서 LLM 웹서비스를 완전히 대체하는 건 불가능합니다만, 활용하기에 따라서 유용할 수도 있다고 생각합니다. 직접 손으로 테스트해보면서 비교해보는 것을 추천 드립니다.</p>

</div>
</div>
<h2 id="llm-모델-확인-및-새로운-모델-다운로드">LLM 모델 확인 및 새로운 모델 다운로드<a href="#table-of-contents">#</a>
</h2>


<p>LM Studio에서는 채팅창 상단에서 현재 모델을 확인하거나 새로운 모델을 로드할 수 있습니다. 모델이 로드된 상태에서 Eject 버튼을 클릭하면 모델이 언로드 됩니다.</p>
<figure>
<img src="https://www.lainyzine.com/ko/article/starting-local-llm-with-lm-studioassets/image%2011.png" alt="상단 메뉴에서 현재 모델을 확인합니다" width="1500" height="331" loading="lazy">
</figure>
<p>이제 모델이 언로드된 상태입니다. Select a model to load(Ctrl +L)을 클릭하면 로드 가능한 모델을 확인할 수 있습니다.</p>
<figure>
<img src="https://www.lainyzine.com/ko/article/starting-local-llm-with-lm-studioassets/image%2012.png" alt="LM Studio에서 LLM 모델이 언로드된 상태" width="1500" height="341" loading="lazy">
</figure>
<p>현재는 처음에 다운로드 받은 Llama 3.2 1B Instruct 모델밖에 없는 것을 확인할 수 있습니다.</p>
<figure>
<img src="https://www.lainyzine.com/ko/article/starting-local-llm-with-lm-studioassets/image%2013.png" alt="처음 다운로드한 Llama3.2 모델만 확인할 수 있습니다" width="1500" height="498" loading="lazy">
</figure>
<p>새로운 모델을 검색하거나 다운로드 받으려면, LM Studio 왼쪽 사이드 바의 4번째 메뉴 Discover를 클릭합니다.</p>
<figure>
<img src="https://www.lainyzine.com/ko/article/starting-local-llm-with-lm-studioassets/image%2014.png" alt="Divcover 메뉴를 선택합니다" width="1500" height="742" loading="lazy">
</figure>
<p>모델 서치 메뉴가 나타납니다. 여기서 원하는 모델을 검색해서 다운로드 받을 수 있습니다. 여기서는 알리바바에서 공개한 LLM 모델인 <code>qwen2.5</code>를 검색해보겠습니다.</p>
<figure>
<img src="https://www.lainyzine.com/ko/article/starting-local-llm-with-lm-studioassets/image%2015.png" alt="LLM 모델을 검색할 수 있는 Mission Control 창이 나타납니다" width="1500" height="878" loading="lazy">
</figure>
<p>LM Studio는 기본적으로 Qugging Face에서 사용가능한 모델을 보여줍니다. 검색 결과 상단에는 LM Studio에서 추천하는 모델들을 보여줍니다. 그 아래로 Hugging Face에서 사용하는 🤗 이모지가 붙은 모델들을 확인할 수 있습니다. LLM 모델에 대해서 익숙하지 않다면 LM Studio의 추천 모델들을 사용하는 걸 추천합니다.</p>
<p>원하는 모델을 선택합니다. 여기서는 Qwen2.5 Coder 14B를 다운로드 받아보겠습니다. 여기서 14B는 모델의 파라미터 수로 이 숫자가 클수록 모델의 크기가 커집니다. 앞서 사용한 1B 모델은 2GB가 안 되었지만, 14B 모델은 8.52GB인 것을 확인할 수 있습니다. 오른쪽 아래의 Download를 클릭하면 다운로드가 진행됩니다.</p>
<p>이제 모델을 선택할 때 Qwen2.5 Coder 14B Instruct 모델을 확인할 수 있습니다. 14B는 앞에서 소개한대로 파라미터 수입니다. Coder는 코딩에 최적화된 모델이며, Instruct는 대화형으로 사용하기에 최적화된 모델을 의미합니다.</p>
<figure>
<img src="https://www.lainyzine.com/ko/article/starting-local-llm-with-lm-studioassets/image%2016.png" alt="모델 선택 창에서 Qwen 2.5 Coder 모델을 선택합니다" width="1500" height="478" loading="lazy">
</figure>
<p>모델을 선택하면, LLM 모델을 실행하기 위한 설정들이 나타납니다. 여기서는 오른쪽 아래의 Load Model을 클릭해 그대로 사용하도록 하겠습니다.</p>
<figure>
<img src="https://www.lainyzine.com/ko/article/starting-local-llm-with-lm-studioassets/image%2017.png" alt="모델 관련된 설정을 변경할 수 있습니다. 모델을 로드합니다" width="1371" height="1000" loading="lazy">
</figure>
<p>모델이 잘 로드된 것을 확인할 수 있습니다. 오른쪽의 톱니바퀴 아이콘을 클릭해 앞에서 확인한 모델 실행 설정도 다시 변경할 수 있습니다.</p>
<figure>
<img src="https://www.lainyzine.com/ko/article/starting-local-llm-with-lm-studioassets/image%2018.png" alt="Qwen2.5 모델이 로드된 것을 확인할 수 있습니다" width="1500" height="418" loading="lazy">
</figure>
<p>새로운 모델과 대화를 해봅니다.</p>
<figure>
<img src="https://www.lainyzine.com/ko/article/starting-local-llm-with-lm-studioassets/image%2019.png" alt="새로 다운로드 받은 Qwen2.5 모델과 대화해봅니다" width="1500" height="924" loading="lazy">
</figure>
<p>정상적으로 요청을 처리하는 것을 확인할 수 있습니다.</p>
<h2 id="lm-studio-서버와-모델-관리-기능">LM Studio 서버와 모델 관리 기능<a href="#table-of-contents">#</a>
</h2>
<p>그 외에도 LM Studio에서는 서버 기능과 모델 관리 기능을 제공합니다.</p>
<p>먼저 사이드바의 2번째 메뉴 Developer를 선택하면, 서버 기능을 확인할 수 있습니다. Server status에서 현재 로컬 서버가 실행중인 것을 확인할 수 있습니다. 이는 LM Stuio의 기능을 웹에서 API로 사용할 수 있는 고급 기능입니다.</p>
<figure>
<img src="https://www.lainyzine.com/ko/article/starting-local-llm-with-lm-studioassets/image%206.png" alt="LM Studio에서 제공하는 서버 기능" width="1500" height="999" loading="lazy">
</figure>
<p>다음은 LM Studio에서 제공하는 curl 예제입니다. 다음과 같이 API를 사용해 LM Studio에 로드된 모델에 메세지를 보낼 수 있습니다. 로컬 LLM을 사용하는 앱이나 서비스를 개발할 때 유용합니다.</p>
<pre><code>$ curl http://localhost:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen2.5-coder-14b-instruct",
    "messages": [
      { "role": "system", "content": "Always answer in rhymes. Today is Thursday" },
      { "role": "user", "content": "What day is it today?" }
    ],
    "temperature": 0.7,
    "max_tokens": -1,
    "stream": false
}'</code></pre>
<p>다음으로 사이드바 세 번째에 있는 My models 메뉴에서는 현재 LM Studio에서 다운로드 받은 모든 모델을 확인할 수 있습니다. 모델 정보 및 모델 실행을 위한 기본 설정값들을 변경할 수 있으며, 모델 파일 위치를 확인하거나 Hugging Face 웹페이지를 확인하는 것도 가능합니다.</p>
<figure>
<img src="https://www.lainyzine.com/ko/article/starting-local-llm-with-lm-studioassets/image%207.png" alt="LM Studio의 모델 관리 페이지" width="1500" height="996" loading="lazy">
</figure>
<p>모델들은 용량이 크기 때문에 사용하지 않는 모델들은 주기적으로 정리하는 것을 추천합니다.</p>
<h2 id="마치며">마치며<a href="#table-of-contents">#</a>
</h2>
<p>여기까지 LM Studio의 설치부터 기본 사용법을 알아보았습니다. LM Studio를 사용해 다양한 모델들을 사용하고 비교해보시기 바랍니다. 아래는 좀 더 심화된 주제들입니다.</p>
<p>LM Studio는 기본적으로 LLM 모델을 실행하기 위해서 llama.cpp를 사용합니다. 다음 글에서는 llama.cpp를 사용해 직접 LLM 모델을 실행하는 방법을 알아봅니다.</p>
<ul>
<li><a href="https://www.lainyzine.com/ko/article/using-llama-cpp-for-local-llm-execution/">llama.cpp 사용법: 고성능 로컬 LLM 실행기</a></li>
</ul>
<p>LM Studio와 비슷한 로컬에서 LLM을 실행할 수 있는 도구로 Ollama가 있습니다. Ollama도 간단히 공개된 LLM 모델을 실행해볼 수 있다는 장점이 있습니다만, LM Studio와 같은 GUI 앱은 제공하지 않습니다. 대신 Open WebUI와 같은 도구를 사용해 Ollama를 백엔드로 로컬 네트워크에서 웹서비스로 사용할 수 있습니다.</p>
<ul>
<li><a href="https://www.lainyzine.com/ko/article/ollama-installation-to-local-llm-model-execution/">Ollama 사용법: 설치부터 로컬 LLM 모델 실행까지</a></li>
<li><a href="https://www.lainyzine.com/ko/article/building-llm-web-service-with-open-webui/">Open WebUI를 활용한 로컬 LLM 웹서비스(feat. Ollama)</a></li>
</ul>
<p>어느 쪽이 더 좋다고 단정하기는 어렵습니다만, 직접 사용하면서 비교해보시기 바랍니다.</p>



</article>
</div></div>

LZ: 프로그래머 가이드

LainyZine

LM Studio를 사용하면 로컬 환경해서 공개된 LLM 모델들을 간단히 실행해볼 수 있습니다. LM Studio 설치부터 기본적인 사용법을 알아봅니다.
전체 기사는 이 링크에서 읽을 수 있습니다.

LM Studio로 시작하는 로컬 LLM 사용법

댓글