삽질하는 멍개씨

안녕하세요 멍개입니다. 지난번에 lm studio를 통해 OpenAI와 호환되는 LLM 서버를 구동하는 방법을 알아보았습니다. 이번 포스트에서는 오픈소스 기반인 Ollama를 다뤄보겠습니다. ollama의 핵심 컨셉은 도커와 유사하빈다. ※ 설치 ollama가 정상적으로 설치되었다면 다음과 같이 확인할 수 있습니다. · ollama 서버 띄우기 ollama는 아주 간단한 명령어를 통해 모델을 로컬에서 구동시킬 수 있습니다. 만약 다음과 같이 에러가 발생할 수 있습니다. 이때는 ollama가 로컬에서 동작하지 않고 있기 때문입니다. serve 명령어를 통해 ollama를 구동시켜 줍니다. ollama는 도커와 비슷한 개념으로 이해하면 왜 serve 명령어를 통해 ollama를 실행.......

[ollama] ollama를 이용하여 로컬에서 llm 모델을 구동해보자

댓글