性能提升 200% ！SpringBoot 虛擬線程來了

2023-06-23 00:12:23來源：程序員客棧

在以往的項目中，我們面臨了這樣一種情況：我們收到了數千個認證請求。為了確保安全性，我們依靠第三方系統(tǒng)發(fā)送短信 OTP 進行驗證。然而，有時候第三方系統(tǒng)花費的時間比預期的要長，導致延遲。我們采用了每個請求一個線程的模型，這意味著許多線程處于等待狀態(tài)，并且新請求都在隊列中。我們試圖通過微調線程數量來優(yōu)化性能，但當時我們希望有虛擬線程功能。當時 Java 中沒有虛擬線程的概念，這就是 Project Loom 的作用。

虛擬線程

什么是 Project Loom？

什么是 Project Loom？這是 Oracle 的一個新項目，主要目標是顯著減少編寫、維護和觀察高吞吐量并發(fā)應用程序的工作量。換句話說，Project Loom 旨在支持和推進一個高吞吐量、輕量級的 Java 并發(fā)模型，因為傳統(tǒng)的操作系統(tǒng)線程（Java 并發(fā)模型的核心）有一些缺點，并且在計算上相當昂貴。反之，虛擬線程是更輕量級的線程，不與操作系統(tǒng)線程連接（由 JVM 管理）。這意味著虛擬線程是“每請求對應一個線程”編程的理想選擇，可以創(chuàng)建大量的虛擬線程，而不會降低吞吐量。開發(fā)人員可以使用現有的 JDK 工具和技術快速排除故障、調試和分析并發(fā)應用程序，在發(fā)布的 Spring Boot 3.1 中可用。作為 Spring 開發(fā)者，了解虛擬線程的概念并理解它們在開發(fā)過程中的重要性非常關鍵。

(資料圖)

如何使用虛擬線程Java 版本選擇

Java 19 中引入的虛擬線程非常易于使用，筆者使用的 Mac M1 系列，這里選擇 Azul Zulu 發(fā)行版 20.30.11 版本^[1]

azul 20

創(chuàng)建測試項目

使用 Spring Initializer 或 IDE 創(chuàng)建項目。添加 spring-web 依賴項并添加元數據。(注意版本選擇 SpringBoot 3.1 ,Java 20)

開啟虛擬線程功能

默認報錯

默認情況下， Java19 的虛擬線程功能是禁用狀態(tài)的，需要通過相關 maven 編譯配置開啟。

org.springframework.bootspring-boot-maven-pluginorg.apache.maven.pluginsmaven-compiler-plugin--enable-preview

通過配置 bean 啟用虛擬線程

@Bean?TomcatProtocolHandlerCustomizerthreadExecutorCustomizer()?{??return?protocolHandler?->protocolHandler.setExecutor(Executors.newVirtualThreadPerTaskExecutor());?}

這個 Bean 是一個自定義的 Tomcat 協議處理器，負責處理 Spring Boot 應用程序中傳入的請求。這個自定義程序的目的是配置協議處理器使用的執(zhí)行器。

在 threadExecutorCustomizer 方法內部，使用 Lambda 表達式來自定義協議處理器。protocolHandler 參數代表正在自定義的 Tomcat 協議處理器的實例。

在 Lambda 表達式中，調用 protocolHandler 對象的 setExecutor() 方法，用于為協議處理器設置執(zhí)行器。執(zhí)行器負責執(zhí)行任務，例如處理傳入的請求。

在這種情況下，使用 Executors.newVirtualThreadPerTaskExecutor() 方法創(chuàng)建一個新的使用虛擬線程的執(zhí)行器。虛擬線程是輕量級線程，可以在單個操作系統(tǒng)線程中并發(fā)執(zhí)行任務。這意味著可以同時執(zhí)行多個任務，提高性能和資源利用率。

增加測試端點

@Slf4j@RequestMapping@RestControllerpublic?class?DemoController?{????@GetMapping("/")????public?String?demo()?{????????try?{????????????TimeUnit.MILLISECONDS.sleep(300);????????}?catch?(InterruptedException?e)?{????????????log.error(e.getMessage());????????}????????return?"Current?Thread?Name:?"?+?Thread.currentThread();????}}

上手使用

我們可以通過 Thread.currentThread() API 獲取當前請求線程的元信息，以判斷虛擬線程是否已經正確開啟。

性能測試對比100 線程測試不開啟虛擬線程

吞吐量 300/s

開啟虛擬線程

吞吐量 300/s

300 線程測試不開啟虛擬線程

吞吐量 650/s

開啟虛擬線程

吞吐量 950/s

500 線程測試不開啟虛擬線程

吞吐量 650/s