<div id="readability-page-1" class="page"><div role="banner"> <div>  <h4>20 Feb 2024</h4> <p> <i></i> Reading time ~2 minutes </p> </div> <h2 id="virtual-thread를-사용해보자">Virtual Thread를 사용해보자!</h2> <blockquote> <p>이번 프로젝트는 kotlin + jdk21 + spring 3.2의 환경입니다. jdk21이면 많이 이야기되는 virtual thread를 사용할지를 이야기 하기 위한 사전 조사를 했습니다.</p> </blockquote> <h2 id="virtual-thread란">Virtual Thread란?</h2> <p>우선 Virtual Thread를 이해하기 위해서는 몇가지 알아야 하는 사항이 있습니다.</p> <h3 id="platform-thread">Platform Thread</h3> <h4 id="system-call">System call</h4> <p> flowchart LR; A[CPU] --&gt;B{Scheduler}; subgraph OS-Linux; B --&gt; C[Thread 1]; B --&gt; E[Thread 2]; B --&gt; F[Thread N]; end; subgraph JNI; F --&gt; G[[JNI]]; E --&gt; G; C --&gt; G; end; subgraph JVM; G --&gt; H[Thread 1]; G --&gt; I[Thread 2]; G --&gt; J[Thread N]; end; </p> <p>Platform Thread는 OS Thread를 감싼 형태로 구현됩니다.</p> <h4 id="thread의-생애-주기">Thread의 생애 주기</h4> <p> flowchart LR; A[NEW] --&gt;|start| B[RUNNABLE]; B --&gt;|run| C[RUNNING]; E[NON-RUNNABLE]; subgraph context switch; C -.-&gt;|yield| B; E -.-&gt;|sleep end, i/o completes, etc| B; C -.-&gt;|sleep, block i/o, etc| E; end; C --&gt;|stop| D[TERMINATIED]; </p> <p>자바에서는 Thread가 I/O 작업, 인터럽트 또는 sleep 명령을 만날 때 블로킹 또는 대기 상태로 들어갑니다. 이 기간 동안 다른 Thread가 운영 체제의 자원을 활용하여 작업을 수행할 수 있으며, 이를 <code>Context Switching</code>이라고 합니다. 이 모델은 기존의 프로세스 모델을 작은 단위로 분할하여 프로세스 내에서 공유 자원을 허용하면서 작은 작업 단위를 번갈아 가며 실행하는 것을 의미합니다.</p> <p>다만, 요청량이 급격하기 증가하는 서버 환경에서는 갈수록 더 많은 Thread 수를 요구 하게 되어 이를 극복하기 위해서 나온 것이 경량 스레드 모델인 <code>Virutal Thread</code>입니다.</p> <p>Virtual Thread의 가장 큰 특징은 <code>컨텍스트 스위칭 비용이 저렴</code> 하다는 것입니다.</p> <h4 id="virtual-thread">Virtual Thread</h4> <p> flowchart LR; A[CPU] --&gt;B{Scheduler}; subgraph OS-Linux; B --&gt; C[Thread 1]; B --&gt; E[Thread 2]; B --&gt; F[Thread N]; end; subgraph JNI; F --&gt; G[[JNI]]; E --&gt; G; C --&gt; G; end; subgraph JVM; G --&gt; H{Scheduler}; G --&gt; H; G --&gt; H; H --&gt; J[Platform Thread 1]; H --&gt; K[Platform Thread 2]; H --&gt; L[Platform Thread N]; J --&gt; M[Virtual Thread 1]; J --&gt; N[Virtual Thread 2]; J --&gt; O[Virtual Thread N]; K --&gt; P[Virtual Thread 4]; K --&gt; Q[Virtual Thread 5]; K --&gt; R[Virtual Thread N]; L --&gt; S[Virtual Thread 7]; L --&gt; T[Virtual Thread 8]; L --&gt; U[Virtual Thread N]; end; </p> <h2 id="spring-32-에서-virtual-thread-사용하기">Spring 3.2 에서 Virtual Thread 사용하기</h2> <p>Spring 3.2 부터는 Virtual Thread를 공식적으로 지원하기 시작하였습니다.</p> <p>사용 방법은 간단하게 properties에 아래와 같이 설정 하면 됩니다.</p> <div><pre><code><span>spring.threads.virtual.enabled</span><span>=</span><span>true</span>
</code></pre></div> <p>위와 같이 설정할 경우 기본적으로 Tomcat에서 Virtual Thread를 사용하도록 설정이 변경 됩니다.</p> <p>기타 부분은 수동으로 교체 작업을 해야 합니다.</p> <h2 id="마치며">마치며</h2> <p>Virtual Threaad는 약 5년 가까이 준비되었던 JDK의 프로젝트였고, 기존 Platform Thread와 호환성을 최대한 맞춰서 개발되었습니다.</p> <p>물론 Virtual Thread에 대한 이해도가 있어야 하지만, 간단하게 위와 같이 설정으로 Virtual Thread를 활용할 수 있습니다.</p> <p>참고 자료에는 좋은 내용이 많으니 꼭 읽어 보시기를 추천 드립니다.</p> <h2 id="참고-자료">참고 자료</h2> <ul> <li><a href="https://techblog.woowahan.com/15398/">Java의 미래, Virtual Thread</a></li> <li><a href="https://tech.kakao.com/2023/12/22/techmeet-virtualthread/">JDK 21의 신기능 Virtual Thread 알아보기 / 제4회 Kakao Tech Meet</a></li> <li><a href="https://docs.oracle.com/en/java/javase/21/core/virtual-threads.html#GUID-DC4306FC-D6C1-4BCC-AECE-48C32C1A8DAA">Virtual Thread</a></li> <li><a href="https://mangkyu.tistory.com/317">[Spring] 가상 스레드(Virtual Thread)를 지원하기 위한 스프링의 작업들과 마이그레이션 시의 주의 사항</a></li> </ul>  </div></div>

lahuman

Daniel Lim

Virtual Thread를 사용해보자!
이번 프로젝트는 kotlin + jdk21 + spring 3.2의 환경입니다. jdk21이면 많이 이야기되는 virtual thread를 사용할지를 이야기 하기 위한 사전 조사를 했습니다.
Virtual Thread란?
우선 Virtual Thread를 이해하기 위해서는 몇가지 알아야 하는 사항이 있습니다.
Platform Thread
System call
 
flowchart LR;
    A[CPU] -->B{Scheduler};
    subgraph OS-Linux;
    B --> C[Thread 1];
    B --> E[Thread 2];
    B --> F[Thread N];
    end;
    subgraph JNI;
    F --> G[[JNI]];
    E --> G;
    C --> G;
    end;
    subgraph JVM;
    G --> H[Thread 1];
    G --> I[Thread 2];
    G --> J[Thread N];
    end;
Platform Thread는 OS Thread를 감싼 형태로 구현됩니다.
Thread의 생애 주기
 
flowchart LR;
    A[NEW] -->|start| B[RUNNABLE];
    B -->|run| C[RUNNING];
    E[NON-RUNNABLE];
    subgraph context switch;
    C -.->|yield| B;
    E -.->|sleep end, i/o completes,  etc| B;
    C -.->|sleep, block i/o, etc| E;
    end;
    C -->|stop| D[TERMINATIED];
자바에서는 Thread가 I/O 작업, 인터럽트 또는 sleep 명령을 만날 때 블로킹 또는 대기 상태로 들어갑니다. 이 기간 동안 다른 Thread가 운영 체제의 자원을 활용하여 작업을 수행할 수 있으며, 이를 Context Switching이라고 합니다. 이 모델은 기존의 프로세스 모델을 작은 단위로 분할하여 프로세스 내에서 공유 자원을 허용하면서 작은 작업 단위를 번갈아 가며 실행하는 것을 의미합니다.
다만, 요청량이 급격하기 증가하는 서버 환경에서는 갈수록 더 많은 Thread 수를 요구 하게 되어 이를 극복하기 위해서 나온 것이 경량 스레드 모델인 Virutal Thread입니다.
Virtual Thread의 가장 큰 특징은 컨텍스트 스위칭 비용이 저렴 하다는 것입니다.
Virtual Thread
 
flowchart LR;
    A[CPU] -->B{Scheduler};
    subgraph OS-Linux;
    B --> C[Thread 1];
    B --> E[Thread 2];
    B --> F[Thread N];
    end;
    subgraph JNI;
    F --> G[[JNI]];
    E --> G;
    C --> G;
    end;
    subgraph JVM;
    G --> H{Scheduler};
    G --> H;
    G --> H;
    H --> J[Platform Thread 1];
    H --> K[Platform Thread 2];
    H --> L[Platform Thread N];
    J --> M[Virtual Thread 1];
    J --> N[Virtual Thread 2];
    J --> O[Virtual Thread N];
    K --> P[Virtual Thread 4];
    K --> Q[Virtual Thread 5];
    K --> R[Virtual Thread N];
    L --> S[Virtual Thread 7];
    L --> T[Virtual Thread 8];
    L --> U[Virtual Thread N];
    end;
Spring 3.2 에서 Virtual Thread 사용하기
Spring 3.2 부터는 Virtual Thread를 공식적으로 지원하기 시작하였습니다.
사용 방법은 간단하게 properties에 아래와 같이 설정 하면 됩니다.
spring.threads.virtual.enabled=true
위와 같이 설정할 경우 기본적으로 Tomcat에서 Virtual Thread를 사용하도록 설정이 변경 됩니다.
기타 부분은 수동으로 교체 작업을 해야 합니다.
마치며
Virtual Threaad는 약 5년 가까이 준비되었던 JDK의 프로젝트였고, 기존 Platform Thread와 호환성을 최대한 맞춰서 개발되었습니다.
물론 Virtual Thread에 대한 이해도가 있어야 하지만, 간단하게 위와 같이 설정으로 Virtual Thread를 활용할 수 있습니다.
참고 자료에는 좋은 내용이 많으니 꼭 읽어 보시기를 추천 드립니다.
참고 자료
Java의 미래, Virtual Thread
JDK 21의 신기능 Virtual Thread 알아보기 / 제4회 Kakao Tech Meet
Virtual Thread
[Spring] 가상 스레드(Virtual Thread)를 지원하기 위한 스프링의 작업들과 마이그레이션 시의 주의 사항

JDK21 + Spring 3.2 + virtual thread

댓글