strata를 이용하여 qwen3.8-next-flash(120B) 모델을 RTX 5070 Ti(16Gb)에서 구동시키고 opencode를 이용하여 채팅 서비스 만들어보기
2026-10-08 13:46

strata를 이용하여 qwen3.8-next-flash(120B) 모델을 RTX 5070 Ti(16Gb)에서 구동시키고 opencode를 이용하여 채팅 서비스 만들어보기

안녕하세요 멍개입니다. 이번 포스트에서는 적은 GPU 메모리를 가지고 있더라도 시스템 메모리를 이용하여 큰 파라미터를 가진 LLM 모델을 구동하는 오픈소스 프로젝트인 Strata를 소개합니다. https://github.com/N...
인공지능 활용
001

댓글