자바 동시성에 대한 새로운 접근 ‘가상 쓰레드’

자바 19에서 가장 눈에 띄는 변화는 가상 쓰레드다. 가상 쓰레드는 '프로젝트 룸(Project Loom)’의 일부로 개발됐으며, 자바 19에서 프리뷰 형태로 공개된다.
 

 

가상 쓰레드의 작동 방식 

가상 쓰레드는 운영체제 프로세스와 애플리케이션 수준 동시성 사이에 추상화 계층을 생성한다. 다르게 말하면, 가상 쓰레드를 사용해 자바 가상 머신이 조율하는 작업을 스케줄링할 수 있으며 JVM은 운영체제와 프로그램 사이에서 중재하는 역할을 한다. 다음 그림은 가상 쓰레드의 아키텍처를 보여준다.
 

이런 아키텍처에서 애플리케이션은 가상 쓰레드를 인스턴스화하고 JVM(Java Virtual Machine)은 이를 처리할 컴퓨팅 리소스를 할당한다. 이와 대조되는 전통적인 쓰레드의 경우 운영체제(OS) 프로세스에 직접 매핑된다. 전통적인 쓰레드에서는 애플리케이션 코드가 OS 리소스의 준비와 제공을 담당한다. 가상 쓰레드에서는 애플리케이션 가상 쓰레드를 인스턴스화고 따라서 동시성의 필요성을 표현한다. 그러나 운영체제에서 리소스를 획득하고 해제하는 것은 JVM이다.

자바의 가상 쓰레드는 고(Go) 언어의 고루틴(goroutine)과 비슷하다. 가상 쓰레드를 사용할 때 JVM은 애플리케이션의 가상 쓰레드가 파킹된 경우, 즉 유휴 상태이자 새 작업을 대기할 때만 컴퓨팅 리소스를 할당할 수 있다. 이런 유휴 상태는 대부분의 서버에서 흔히 일어난다. 요청에 쓰레드를 할당한 다음 유휴 상태가 되어 데이터 스토어로부터의 응답, 네트워크로부터의 추가 입력과 같은 새 이벤트를 대기한다. 

전통적인 자바 쓰레드를 사용하는 경우, 서버가 요청을 대기하는 유휴 상태면 운영체제 쓰레드도 유휴 상태이며 이는 서버의 확장성을 심각하게 저해한다. 오라클의 디벨로퍼 애드보킷 니콜라이 파로그는 “운영체제는 플랫폼 쓰레드의 효율성을 높일 수 없지만 JDK는 자체 쓰레드와 OS 쓰레드 사이에 일 대 일 관계를 설정해서 쓰레드를 더 효과적으로 활용할 수 있다”고 설명했다.

전통적인 자바 쓰레드와 관련된 성능 및 확장성 문제를 완화하기 위한 노력은 이전에도 있었다. 자바RX 같은 비동기 리액티브 라이브러리가 대표적인 예이다. 가상 쓰레드의 차이점은 JVM 수준에서 구현되면서도 자바의 기존 프로그래밍 구조에 들어간다는 점이다.
 

자바 가상 쓰레드 데모 살펴보기

데모를 실행하기 위해 메이븐 archetype으로 간단한 자바 애플리케이션을 만들었다. 자바 19 프리뷰의 가상 쓰레드를 활성화하기 위해 일부 부분을 변경했으나 이후 가상 쓰레드가 프리뷰 단계에서 나오면 쓰지 않아도 되는 코드이다. 

다음 예시 1은 메이븐 archetype의 POM 파일에서 필자가 변경한 부분을 보여준다. 자바 19를 사용하도록 컴파일러를 설정했고 (예시 2에서 볼 수 있듯이) .mvn/jvm.config에 라인을 하나 추가했다.
 

<properties>
  <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
  <maven.compiler.source>19</maven.compiler.source>
  <maven.compiler.target>19</maven.compiler.target>
</properties>
<plugin>
  <groupId>org.apache.maven.plugins</groupId>
  <artifactId>maven-compiler-plugin</artifactId>
  <version>3.10.1</version>
  <configuration>
    <compilerArgs>
      <arg>--add-modules=jdk.incubator.concurrent</arg>
      <arg>--enable-preview</arg>
    </compilerArgs>
  </configuration>
</plugin>

예시 1. 데모 애플리케이션을 위한 pom.xml

--enable-preview 스위치는 프리뷰가 활성화된 상태에서 exec:java가 작동하기 위해 필요하다. 이렇게 하면 필요한 스위치와 함께 메이븐 프로세스가 시작된다. 
 

--enable-preview

예시 2. .mvn/jvm.config에 enable-preview 추가

이제 mvn compile exec:java로 프로그램을 실행하면 가상 쓰레드 기능이 컴파일되고 실행된다.
 

가상 쓰레드를 사용하는 두 가지 방법

이제 코드에서 실제로 가상 쓰레드를 사용하는 두 가지 주된 방법을 생각해 보자. 가상 쓰레드는 JVM의 작동에 큰 변화를 의미하지만, 코드는 사실 전통적인 자바 쓰레드와 매우 유사하다. 이 유사성은 설계할 때부터 의도된 부분이기도 하며, 덕분에 기존 애플리케이션과 서버를 비교적 쉽게 리팩토링할 수 있다. 또한 호환성은 JVM의 쓰레드 모니터링 및 관찰을 위한 기존 툴을 가상 쓰레드에도 사용할 수 있음을 의미한다.

Thread.startVirtualThread(Runnable r)

가상 쓰레드를 사용하는 가장 기본적인 방법은 Thread.startVirtualThread(Runnable r)이다. 쓰레드를 인스턴스화하고 thread.start()를 호출하는 과정을 대신한다. 예시 3의 샘플 코드를 참고해보자.
 

package com.infoworld;

import java.util.Random;

public class App {
  public static void main( String[] args ) {
    boolean vThreads = args.length > 0;
    System.out.println( "Using vThreads: " + vThreads);

    long start = System.currentTimeMillis();

    Random random = new Random();
    Runnable runnable = () -> { double i = random.nextDouble(1000) % random.nextDouble(1000);  };  
    for (int i = 0; i < 50000; i++){
      if (vThreads){ 
        Thread.startVirtualThread(runnable);
      } else {
        Thread t = new Thread(runnable);
        t.start();
      }
    }
   
    long finish = System.currentTimeMillis();
    long timeElapsed = finish - start;
    System.out.println("Run time: " + timeElapsed);
  }
}

예시 3. 새 쓰레드 인스턴스화
 
예시 3의 코드는 인수와 함께 실행하면 가상 쓰레드를 사용하고 그렇지 않은 경우 전통적인 쓰레드를 사용한다. 프로그램은 선택한 쓰레드 유형이 무엇이든 5만 회의 반복을 생성한다. 그런 다음 무작위 숫자로 간단한 계산을 하고 실행 시간을 추적한다.

가상 쓰레드로 코드를 실행하려면 mvn compile exec:java -Dexec.args="true"를 입력하고 표준 쓰레드로 실행하려면 mvn compile exec:java를 입력한다. 간단한 성능 테스트를 수행해서 아래와 같은 결과를 얻었다.
 

• 가상 쓰레드 사용: 런타임 174
• 기존 쓰레드 사용: 런타임 5450

다소 비과학적인 결과지만 런타임 차이는 상당하다. Thread.ofVirtual().start(runnable)와 같이 Thread를 사용해서 가상 쓰레드를 생성하는 다른 방법도 있다. 자세한 내용은 자바 쓰레드 문서를 참고해보자.

실행자 사용 

가상 쓰레드를 시작하는 또 다른 주된 방법은 실행자(executor)를 사용하는 것이다. 실행자는 쓰레드를 다룰 때 일반적으로 사용되며, 다수의 작업과 쓰레드 풀링을 조율하는 표준적인 방법을 제공한다. 생성과 폐기 비용이 저렴한 가상 쓰레드에서는 풀링이 불필요하다. JVM이 쓰레드 풀을 알아서 관리해준다고 생각하면 된다. 어쨌든 많은 프로그램이 실행자를 사용하므로 자바 19에는 가상 쓰레드로의 리팩토링을 용이하게 하기 위해 실행자에 새로운 프리뷰 메서드가 포함돼 있다. 예시 4는 새 메서드와 기존 메서드를 나란히 보여준다.
 

ExecutorService executor = Executors.newVirtualThreadPerTaskExecutor(); // New method
ExecutorService executor = Executors.newFixedThreadPool(Integer poolSize); // Old method

예시 4. 새 실행자 메서드

또한 자바 19에는 Executors.newThreadPerTaskExecutor(ThreadFactory threadFactory) 메서드가 제공된다. 이 메서드는 가상 쓰레드를 빌드하는 ThreadFactory를 취할 수 있다. 이러한 팩토리는 Thread.ofVirtual().factory()로 얻을 수 있다. 실행자 메서드에 대한 추가 내용은 자바 공식 페이지에서 확인할 수 있다.
 

가상 쓰레드의 모범 사례

일반적으로 가상 쓰레드는 Thread 클래스를 구현하므로 표준 쓰레드가 사용되는 모든 곳에서 사용될 수 있다. 그러나 최고의 효과를 얻기 위해 가상 쓰레드를 사용해야 하는 방법 측면에서 차이점이 있다. 한 가지 예는 데이터스토어와 같은 리소스에 액세스할 때 제한이 있는 쓰레드를 사용하는 대신 세마포어(semaphores)를 사용해서 쓰레드의 수를 제어하는 것이다. 오라클 공식 블로그에서 가상 쓰레드와 플랫폼 쓰레드에서 더 많은 팁을 볼 수 있다.

또 다른 중요한 점은 가상 쓰레드는 항상 데몬 쓰레드라는 것이다. 즉, JVM 프로세스를 완료될 때까지 활성 상태로 유지한다. 또한 우선순위를 변경할 수 없다. 우선순위와 데몬 상태를 변경하기 위한 메서드는 동작하지 않는다. 여기에 대한 자세한 내용은 쓰레드 문서에서 볼 수 있다.
 

가상 쓰레드를 사용한 리팩토링

가상 쓰레드는 내부적으로 큰 변화지만 기존 코드베이스에 쉽게 적용하도록 설계됐다. 가상 쓰레드는 톰캣(Tomcat), 글래스피시(GlassFish)와 같은 서버에 가장 크고 즉각적인 영향을 미치게 된다. 이러한 서버는 최소한의 작업으로 가상 쓰레드를 도입할 수 있을 것이다. 이와 같은 서버에서 실행되는 애플리케이션은 아무런 코드 변경 없이 확장성 측면의 이득을 얻게 되는데, 이는 대규모 애플리케이션에서 상당한 파급 효과로 이어질 수 있다. 다수의 서버와 코어에서 실행되는 자바 애플리케이션을 생각해 보자. 처리할 수 있는 요청의 수 측면에서 갑자기 자릿수 자체가 달라진다. 물론 요청 처리 프로필에 따라 다를 수 있다. 

톰캣과 같은 서버에서 구성 매개변수로 가상 쓰레드를 사용할 수 있게 되는 것은 시간문제일 뿐이다. 그때까지는 서버를 가상 쓰레드로 마이그레이션하는 데 관심이 있다면, 자바 관련 다양한 출판물을 낸 케이 호스트만이 블로그에 쓴 이 글을 참조하라. 글에서는 가상 쓰레드에 맞게 톰캣을 구성하는 과정이 나와 있다. 호스트만은 가상 쓰레드 프리뷰 기능을 활성화하고 Executor를 맞춤 구현으로 대체하는데, 차이는 한 라인에 불과하다. 짐작할 수 있겠지만 Executors.newThreadPerTaskExecutor이다. 확장성 측면의 혜택은 상당하다. 호스트만은 “이 변경으로 200개의 요청에 3초가 소요됐으며 톰캣은 1만 개의 요청을 손쉽게 처리할 수 있다”고 말했다.
 

결론

가상 쓰레드는 JVM에 있어 큰 변화다. 애플리케이션 프로그래머에게는 콜백(callback) 또는 퓨처(future) 사용과 같은 비동기 스타일 코딩의 대안을 제시한다. 전체적으로 볼 때 가상 쓰레드는 동시성 처리에서 자바 동기 프로그래밍 패러다임으로 되돌아가는 진자와 같다. 프로그래밍 스타일 측면에서 자바스크립트의 async/await 도입과 비슷하다고도 할 수 있다. 요약하자면, 적어도 쓰레드가 많은 시간을 유휴 상태로 소비하는 애플리케이션에서 간단한 동기 구문을 사용한 정확한 비동기 동작 쓰기가 매우 쉬워질 것이다. 
editor@itworld.co.kr