Ringkasan mata pengetahuan Java: benang maya JDK19

Artikel ini membawa anda pengetahuan yang berkaitan tentang java, yang terutamanya memperkenalkan kandungan yang berkaitan tentang utas maya dalam jdk19 adalah proses dengan goroutine dan bahasa Erlang dalam bahasa go utas mod pengguna Mari kita lihat bersama-sama. Saya harap ia akan membantu semua orang.

Pembelajaran yang disyorkan: "tutorial video java"

Pengenalan

Benang maya mempunyai pelaksanaan yang serupa dengan goroutine bahasa Go dan proses bahasa Erlang Ia adalah satu bentuk utas mod pengguna.

Pada masa lalu, kumpulan benang sering digunakan dalam Java untuk berkongsi urutan platform untuk meningkatkan penggunaan perkakasan komputer Walau bagaimanapun, dalam gaya tak segerak ini, setiap peringkat permintaan boleh dilaksanakan pada setiap urutan benang menjalankan peringkat kepunyaan permintaan yang berbeza dalam cara bersilang, yang tidak konsisten dengan reka bentuk platform Java dan menghasilkan:

• Surih tindanan tidak menyediakan konteks yang boleh digunakan

• Penyahpepijat tidak boleh melalui logik pemprosesan permintaan

• Penganalisis tidak boleh mengaitkan kos operasi dengan pemanggilnya.

Benang maya kekal serasi dengan reka bentuk platform sambil menggunakan perkakasan secara optimum tanpa menjejaskan kebolehskalaan. Urutan maya ialah pelaksanaan ringan bagi urutan yang disediakan oleh JDK dan bukannya sistem pengendalian:

• Benang maya ialah urutan yang tidak terikat pada urutan sistem pengendalian tertentu.

• Benang platform ialah utas yang dilaksanakan dengan cara tradisional, sebagai pembalut mudah di sekeliling utas sistem pengendalian.

Ringkasan

Memperkenalkan urutan maya kepada platform Java. Benang maya ialah benang ringan yang sangat mengurangkan usaha menulis, menyelenggara dan memerhati aplikasi serentak berdaya tinggi.

Matlamat

• Membenarkan aplikasi pelayan ditulis dalam fesyen satu-benang-setiap-permintaan yang mudah untuk mendekati Penskalaan dengan penggunaan perkakasan yang optimum.

• Membenarkan kod sedia ada menggunakan java.lang.ThreadAPI untuk menggunakan urutan maya dengan perubahan yang minimum.

• Gunakan alatan JDK sedia ada untuk menyelesaikan masalah, nyahpepijat dan menganalisis urutan maya dengan mudah.

Bukan sasaran

• Alih keluar pelaksanaan warisan urutan atau pindahkan aplikasi sedia ada Menggunakan maya benang bukan matlamat.

• Tukar model konkurensi asas Java.

• Matlamat kami bukan untuk menyediakan struktur selari data baharu dalam bahasa Java atau perpustakaan Java. StreamAPI kekal sebagai kaedah pilihan untuk memproses set data yang besar secara selari.

Motivasi

Selama hampir 30 tahun, pembangun Java telah bergantung pada benang sebagai blok bangunan aplikasi pelayan serentak . Setiap pernyataan dalam setiap kaedah dilaksanakan dalam utas, dan memandangkan Java adalah berbilang benang, berbilang utas pelaksanaan berlaku serentak.

Benang ialah unit serentak Java: sekeping kod berjujukan yang berjalan serentak dengan, dan sebahagian besarnya bebas daripada, unit lain seperti itu.

Setiap urutan menyediakan tindanan untuk menyimpan pembolehubah setempat dan menyelaraskan panggilan kaedah, serta konteks sekiranya berlaku ralat: Pengecualian dilemparkan dan ditangkap melalui kaedah dalam urutan yang sama, jadi pembangun boleh menggunakan surih tindanan benang untuk mengetahui apa yang berlaku.

Threading juga merupakan konsep teras alat: penyahpepijat menelusuri pernyataan dalam kaedah berulir dan pemprofil menggambarkan gelagat berbilang rangkaian untuk membantu memahami prestasinya.

Dua gaya konkurensi

gaya benang-per-permintaan

• Aplikasi pelayan biasanya mengendalikan pengguna serentak secara bebas daripada permintaan satu sama lain , jadi masuk akal untuk aplikasi mengendalikan permintaan dengan memperuntukkan urutan kepada permintaan untuk sepanjang tempoh permintaan. Gaya benang atas permintaan ini mudah difahami, mudah diprogramkan, mudah dinyahpepijat dan mudah dikonfigurasikan kerana ia menggunakan unit konkurensi platform untuk mewakili unit konkurensi aplikasi.

• Skalabiliti aplikasi pelayan dikawal oleh Little's Law, yang mengaitkan kependaman, konkurensi dan daya pemprosesan: Untuk permintaan tertentu pemprosesan berterusan Masa (latensi) dan bilangan permintaan aplikasi boleh mengendalikan secara serentak (concurrency) mesti berkembang secara berkadar dengan kadar ketibaan (throughput).

• Sebagai contoh, anggap aplikasi dengan kependaman purata 50ms mencapai daya pemprosesan sebanyak 200 permintaan sesaat dengan memproses 10 permintaan secara serentak. Untuk aplikasi mencapai daya pemprosesan sebanyak 2000 permintaan sesaat, ia perlu mengendalikan 100 permintaan secara serentak. Jika setiap permintaan dikendalikan dalam urutan untuk tempoh permintaan, bilangan utas mesti bertambah apabila daya pemprosesan meningkat agar aplikasi dapat bersaing.

• Malangnya, bilangan urutan yang tersedia adalah terhad kerana JDK melaksanakan urutan sebagai pembalut untuk urutan sistem pengendalian (OS). Urutan OS mahal, jadi kami tidak boleh mempunyai terlalu banyak utas, yang menjadikan pelaksanaan tidak sesuai untuk gaya satu-benang-setiap-permintaan.

• Jika setiap permintaan menggunakan satu utas untuk tempohnya, dan dengan itu satu utas OS, bilangan utas biasanya akan habis sebelum sumber lain seperti CPU atau sambungan rangkaian habis menjadi had. faktor untuk masa yang lama. Pelaksanaan threading semasa JDK mengehadkan pemprosesan aplikasi ke tahap yang jauh di bawah apa yang boleh disokong oleh perkakasan. Ini berlaku walaupun dalam kumpulan utas kerana kumpulan membantu mengelakkan kos tinggi untuk memulakan utas baharu tetapi tidak meningkatkan jumlah bilangan utas.

gaya tak segerak

Sesetengah pembangun yang ingin memanfaatkan sepenuhnya perkakasan mereka telah meninggalkan gaya benang setiap permintaan, sebaliknya menggunakan perkongsian benang gaya.

Daripada memproses permintaan pada satu urutan dari awal hingga akhir, kod pengendalian permintaan mengembalikan urutannya ke kumpulan sementara menunggu operasi I/O selesai supaya utas itu boleh mengendalikan permintaan lain. Perkongsian benang berbutir halus ini (di mana kod hanya menyimpan benang semasa melakukan pengiraan dan bukannya semasa menunggu I/O) membolehkan sejumlah besar operasi serentak tanpa menggunakan sejumlah besar benang.

Walaupun ia menghapuskan had pemprosesan yang dikenakan oleh kekurangan rangkaian sistem pengendalian, ia datang pada kos yang tinggi: ia memerlukan apa yang dipanggil gaya pengaturcaraan tak segerak, menggunakan satu set kaedah I/O bebas yang tidak Menunggu operasi I/O selesai dan sebaliknya menandakan selesainya kepada panggilan balik pada masa yang akan datang. Tanpa utas khusus, pembangun mesti memecahkan logik pemprosesan permintaan kepada peringkat kecil, biasanya ditulis dalam bentuk ungkapan lambda, dan kemudian menggabungkannya ke dalam saluran paip berjujukan dengan API (lihat, sebagai contoh, CompletableFuture, atau apa yang dipanggil " bertindak balas" rangka kerja "seksualiti"). Oleh itu, mereka meninggalkan operator gubahan berjujukan asas bahasa, seperti gelung dan blok cuba/tangkap.

Dalam gaya tak segerak, setiap fasa permintaan boleh dilaksanakan pada urutan yang berbeza, dengan setiap urutan menjalankan fasa kepunyaan permintaan yang berbeza dalam cara bersilang. Ini mempunyai implikasi yang mendalam untuk memahami tingkah laku program:

• Surih tindanan tidak memberikan konteks yang boleh digunakan

• Penyahpepijat tidak boleh melangkah melalui logik pengendalian permintaan

• Profil tidak boleh mengaitkan kos operasi dengan pemanggilnya.

Menggabungkan ungkapan lambda boleh diurus apabila menggunakan API penstriman Java untuk memproses data dalam saluran paip pendek, tetapi apabila semua kod pengendalian permintaan dalam aplikasi mesti Terdapat masalah semasa menulis dengan cara ini. Gaya pengaturcaraan ini tidak konsisten dengan platform Java kerana unit concurrency aplikasi (paip tak segerak) bukan lagi unit concurrency platform.

Perbandingan

Gunakan benang maya untuk mengekalkan benang- gaya per -permintaan

Agar aplikasi berskala sambil kekal selaras dengan platform, kita harus berusaha untuk mengekalkan gaya satu utas setiap permintaan dengan melaksanakan urutan dengan lebih cekap supaya Mereka lebih kaya.

Sistem pengendalian tidak dapat melaksanakan urutan OS dengan lebih cekap kerana bahasa dan masa jalan yang berbeza menggunakan susunan benang dengan cara yang berbeza. Walau bagaimanapun, cara masa jalan Java melaksanakan utas Java boleh menjejaskan korespondensi satu sama satu antara mereka dan utas sistem pengendalian. Sama seperti sistem pengendalian memberikan ilusi kecukupan memori dengan memetakan sejumlah besar ruang alamat maya kepada jumlah RAM fizikal yang terhad, masa jalan Java juga boleh memberikan ilusi kecukupan benang dengan memetakan sejumlah besar ruang alamat maya kepada bilangan kecil benang sistem pengendalian.

• Benang maya ialah urutan yang tidak terikat pada urutan sistem pengendalian tertentu.

• Benang platform ialah utas yang dilaksanakan dengan cara tradisional, sebagai pembalut mudah di sekeliling utas sistem pengendalian.

Kod aplikasi gaya benang setiap permintaan boleh dijalankan dalam urutan maya untuk keseluruhan permintaan, tetapi urutan maya hanya menggunakan urutan sistem pengendalian apabila melakukan pengiraan pada CPU. Hasilnya ialah kebolehskalaan yang sama seperti gaya tak segerak, kecuali ia dilaksanakan secara telus: Apabila kod berjalan dalam benang maya memanggil operasi I/O menyekat dalam Java.* API, masa jalan melaksanakan panggilan sistem pengendalian tidak menyekat dan secara automatik menggantung benang maya sehingga ia boleh disambung semula kemudian.

Untuk pembangun Java, utas maya ialah utas yang murah untuk dibuat dan mempunyai bilangan yang hampir tidak terhingga. Penggunaan perkakasan hampir optimum, membolehkan tahap keselarasan yang tinggi, dengan itu meningkatkan daya pengeluaran, sementara aplikasi kekal selaras dengan reka bentuk berbilang benang platform Java dan alatannya.

Maksud benang maya

Benang maya adalah murah dan banyak dan oleh itu tidak boleh dikongsi (iaitu menggunakan kumpulan benang): harus Buat benang maya baharu untuk setiap tugas aplikasi.

Akibatnya, kebanyakan utas maya adalah jangka pendek dan mempunyai susunan panggilan yang cetek, berprestasi serendah satu panggilan klien HTTP atau satu pertanyaan JDBC. Sebaliknya, benang platform adalah berat dan mahal dan oleh itu mesti sering dikongsi. Mereka cenderung untuk berumur panjang, mempunyai susunan panggilan yang mendalam dan dikongsi di antara banyak tugas.

Ringkasnya, benang maya mengekalkan gaya benang-per-permintaan yang boleh dipercayai yang konsisten dengan reka bentuk platform Java sambil menggunakan perkakasan secara optimum. Menggunakan benang maya tidak memerlukan pembelajaran konsep baharu, walaupun ia mungkin memerlukan tabiat tidak belajar yang dibangunkan sebagai tindak balas kepada kos tinggi benang hari ini. Bukan sahaja utas maya membantu pembangun aplikasi—mereka juga membantu pereka bentuk rangka kerja menyediakan API yang mudah digunakan yang serasi dengan reka bentuk platform tanpa menjejaskan kebolehskalaan.

Penerangan

Hari ini, setiap tika java.lang. Benang dalam JDK ialah benang platform. Benang platform menjalankan kod Java pada urutan sistem pengendalian asas dan menangkap urutan sistem pengendalian sepanjang hayat kod. Bilangan utas platform adalah terhad kepada bilangan utas sistem pengendalian.

Benang maya ialah contoh java.lang. Urutan yang menjalankan kod Java pada urutan sistem pengendalian yang mendasari tetapi tidak menangkap urutan sistem pengendalian itu sepanjang hayat kod. Ini bermakna bahawa banyak utas maya boleh menjalankan kod Java mereka pada utas OS yang sama, berkongsinya dengan berkesan. Benang platform memonopoli urutan sistem pengendalian yang berharga, tetapi benang maya tidak. Bilangan utas maya boleh lebih besar daripada bilangan utas sistem pengendalian.

Benang maya ialah pelaksanaan ringan bagi urutan yang disediakan oleh JDK dan bukannya sistem pengendalian. Ia adalah satu bentuk utas mod pengguna yang telah berjaya dalam bahasa berbilang benang lain (contohnya, goroutine dalam Go dan proses dalam Erlang). Benang mod pengguna bahkan menampilkan apa yang dipanggil "benang hijau" dalam versi awal Java, sebelum urutan OS matang dan popular. Walau bagaimanapun, utas hijau Java semuanya berkongsi urutan OS (penjadualan M:1) dan akhirnya diatasi oleh utas platform dan dilaksanakan sebagai pembalut untuk utas OS (penjadualan 1:1). Benang maya menggunakan penjadualan M:N, di mana sebilangan besar (M) benang maya dijadualkan berjalan pada lebih sedikit (N) urutan sistem pengendalian.

Benang maya VS utas platform

Contoh mudah

Pembangun boleh memilih untuk menggunakan utas maya Atau benang platform. Di bawah ialah contoh program yang mencipta sejumlah besar benang maya. Program ini mula-mula mendapat ExecutorService, yang mencipta benang maya baharu untuk setiap tugasan yang diserahkan. Ia kemudian menyerahkan 10,000 tugasan dan menunggu kesemuanya selesai:

try (var executor = Executors.newVirtualThreadPerTaskExecutor()) {
    IntStream.range(0, 10000).forEach(i -> {
        executor.submit(() -> {
            Thread.sleep(Duration.ofSeconds(1));
            return i;
        });
    });
}  // executor.close() is called implicitly, and waits

Tugas dalam contoh ini ialah kod ringkas (tidur selama satu saat) dan perkakasan moden boleh menyokong 10,000 utas maya menjalankan kod ini serentak dengan mudah. Di sebalik tabir, JDK menjalankan kod pada segelintir utas sistem pengendalian, mungkin sesedikit satu.

Jika program ini menggunakan ExecutorService untuk mencipta urutan platform baharu bagi setiap tugas, seperti Executors.newCachedThreadPool (), maka keadaan akan menjadi sangat berbeza. ExecutorService akan cuba mencipta 10,000 utas platform, dengan itu mencipta 10,000 utas OS, dan program mungkin ranap, bergantung pada komputer dan sistem pengendalian.

Sebaliknya, jika program menggunakan ExecutorService yang memperoleh urutan platform daripada kumpulan (seperti Executors.newFixedThreadPool (200)), keadaan tidak akan menjadi lebih baik. ExecutorService akan mencipta 200 utas platform, dikongsi oleh semua 10,000 tugasan, jadi banyak tugasan akan dijalankan secara berurutan dan bukannya serentak, dan program ini akan mengambil masa yang lama untuk disiapkan. Untuk program ini, sekumpulan 200 utas platform hanya mencapai daya pemprosesan sebanyak 200 tugasan sesaat, manakala utas maya mencapai daya pemprosesan sebanyak 10,000 tugasan sesaat (selepas memanaskan badan yang mencukupi). Tambahan pula, jika 10000 dalam program contoh ditukar kepada 1000000, maka program akan menyerahkan 1,000,000 tugasan, mencipta 1,000,000 utas maya berjalan serentak dan (selepas memanaskan badan yang mencukupi) mencapai daya pemprosesan kira-kira 1,000,000 tugasan/saat.

Jika tugasan dalam atur cara ini melakukan pengiraan satu saat (cth. menyusun tatasusunan yang besar) dan bukannya tidur sahaja, maka meningkatkan bilangan utas melebihi bilangan teras pemproses tidak akan membantu, tidak kira sama ada ia Adakah ia benang maya atau benang platform.

虚拟线程并不是更快的线程ーー它们运行代码的速度并不比平台线程快。它们的存在是为了提供规模(更高的吞吐量) ，而不是速度(更低的延迟) 。它们的数量可能比平台线程多得多，因此根据 Little’s Law，它们能够实现更高吞吐量所需的更高并发性。

换句话说，虚拟线程可以显著提高应用程序的吞吐量，在如下情况时：

• 并发任务的数量很多(超过几千个)

• 工作负载不受 CPU 限制，因为在这种情况下，比处理器核心拥有更多的线程并不能提高吞吐量

虚拟线程有助于提高典型服务器应用程序的吞吐量，因为这类应用程序由大量并发任务组成，这些任务花费了大量时间等待。

虚拟线程可以运行平台线程可以运行的任何代码。特别是，虚拟线程支持线程本地变量和线程中断，就像平台线程一样。这意味着处理请求的现有 Java 代码很容易在虚拟线程中运行。许多服务器框架将选择自动执行此操作，为每个传入请求启动一个新的虚拟线程，并在其中运行应用程序的业务逻辑。

下面是一个服务器应用程序示例，它聚合了另外两个服务的结果。假设的服务器框架(未显示)为每个请求创建一个新的虚拟线程，并在该虚拟线程中运行应用程序的句柄代码。然后，应用程序代码创建两个新的虚拟线程，通过与第一个示例相同的 ExecutorService 并发地获取资源:

void handle(Request request, Response response) {
    var url1 = ...
    var url2 = ...
 
    try (var executor = Executors.newVirtualThreadPerTaskExecutor()) {
        var future1 = executor.submit(() -> fetchURL(url1));
        var future2 = executor.submit(() -> fetchURL(url2));
        response.send(future1.get() + future2.get());
    } catch (ExecutionException | InterruptedException e) {
        response.fail(e);
    }
}
 
String fetchURL(URL url) throws IOException {
    try (var in = url.openStream()) {
        return new String(in.readAllBytes(), StandardCharsets.UTF_8);
    }
}

这样的服务器应用程序使用简单的阻塞代码，可以很好地扩展，因为它可以使用大量虚拟线程。

NewVirtualThreadPerTaskExector ()并不是创建虚拟线程的唯一方法。新的 java.lang.Thread.Builder。可以创建和启动虚拟线程。此外，结构化并发提供了一个更强大的 API 来创建和管理虚拟线程，特别是在类似于这个服务器示例的代码中，通过这个 API，平台及其工具可以了解线程之间的关系。

虚拟线程是一个预览 API，默认情况下是禁用的

上面的程序使用 Executors.newVirtualThreadPerTaskExector ()方法，因此要在 JDK 19上运行它们，必须启用以下预览 API:

• 使用javac --release 19 --enable-preview Main.java编译该程序，并使用 java --enable-preview Main 运行该程序；或者：

• 在使用源代码启动程序时，使用 java --source 19 --enable-preview Main.java 运行程序； 或者：

• 在使用 jshell 时，使用 jshell --enable-preview 启动它。

不要共享（pool）虚拟线程

开发人员通常会将应用程序代码从传统的基于线程池的 ExecutorService 迁移到每个任务一个虚拟线程的 ExecutorService。与所有资源池一样，线程池旨在共享昂贵的资源，但虚拟线程并不昂贵，而且从不需要共享它们。

开发人员有时使用线程池来限制对有限资源的并发访问。例如，如果一个服务不能处理超过20个并发请求，那么通过提交给大小为 20 的池的任务将确保执行对该服务的所有访问。因为平台线程的高成本使得线程池无处不在，所以这个习惯用法也变得无处不在，但是开发人员不应该为了限制并发性而将虚拟线程集中起来。应该使用专门为此目的设计的构造(如信号量semaphores)来保护对有限资源的访问。这比线程池更有效、更方便，也更安全，因为不存在线程本地数据从一个任务意外泄漏到另一个任务的风险。

观测

编写清晰的代码并不是故事的全部。对于故障排除、维护和优化来说，清晰地表示正在运行的程序的状态也是必不可少的，JDK 长期以来一直提供调试、概要分析和监视线程的机制。这样的工具对虚拟线程也应该这样做ーー也许要适应它们的大量数据ーー因为它们毕竟是 java.lang.Thread 的实例。

Java 调试器可以单步执行虚拟线程、显示调用堆栈和检查堆栈帧中的变量。JDK Flight Recorder (JFR) 是 JDK 的低开销分析和监视机制，可以将来自应用程序代码的事件(比如对象分配和 I/O 操作)与正确的虚拟线程关联起来。

这些工具不能为以异步样式编写的应用程序做这些事情。在这种风格中，任务与线程无关，因此调试器不能显示或操作任务的状态，分析器也不能告诉任务等待 I/O 所花费的时间。

线程转储（ thread dump） 是另一种流行的工具，用于以每个请求一个线程的样式编写的应用程序的故障排除。遗憾的是，通过 jstack 或 jcmd 获得的 JDK 传统线程转储提供了一个扁平的线程列表。这适用于数十或数百个平台线程，但不适用于数千或数百万个虚拟线程。因此，我们将不会扩展传统的线程转储以包含虚拟线程，而是在 jcmd 中引入一种新的线程转储，以显示平台线程旁边的虚拟线程，所有这些线程都以一种有意义的方式进行分组。当程序使用结构化并发时，可以显示线程之间更丰富的关系。

因为可视化和分析大量的线程可以从工具中受益，所以 jcmd 除了纯文本之外，还可以发布 JSON 格式的新线程转储:

$ jcmd <pid> Thread.dump_to_file -format=json <file>

新的线程转储格式列出了在网络 I/O 操作中被阻塞的虚拟线程，以及由上面所示的 new-thread-per-task ExecutorService 创建的虚拟线程。它不包括对象地址、锁、 JNI 统计信息、堆统计信息以及传统线程转储中出现的其他信息。此外，由于可能需要列出大量线程，因此生成新的线程转储并不会暂停应用程序。

下面是这样一个线程转储的示例，它取自类似于上面第二个示例的应用程序，在 JSON 查看器中呈现 :

由于虚拟线程是在 JDK 中实现的，并且不绑定到任何特定的操作系统线程，因此它们对操作系统是不可见的，操作系统不知道它们的存在。操作系统级别的监视将观察到，JDK 进程使用的操作系统线程比虚拟线程少。

调度

为了完成有用的工作，需要调度一个线程，也就是分配给处理器核心执行。对于作为 OS 线程实现的平台线程，JDK 依赖于 OS 中的调度程序。相比之下，对于虚拟线程，JDK 有自己的调度程序。JDK 的调度程序不直接将虚拟线程分配给处理器，而是将虚拟线程分配给平台线程(这是前面提到的虚拟线程的 M: N 调度)。然后，操作系统像往常一样调度平台线程。

JDK 的虚拟线程调度程序是一个在 FIFO 模式下运行的工作窃取(work-stealing) 的 ForkJoinPool。调度程序的并行性是可用于调度虚拟线程的平台线程的数量。默认情况下，它等于可用处理器的数量，但是可以使用系统属性 jdk.viralThreadScheduler.allelism 对其进行调优。注意，这个 ForkJoinPool 不同于公共池，例如，公共池用于并行流的实现，公共池以 LIFO 模式运行。

• 虚拟线程无法获得载体（即负责调度虚拟线程的平台线程）的标识。由 Thread.currentThread ()返回的值始终是虚拟线程本身。

• 载体和虚拟线程的堆栈跟踪是分离的。在虚拟线程中抛出的异常将不包括载体的堆栈帧。线程转储不会显示虚拟线程堆栈中其载体的堆栈帧，反之亦然。

• 虚拟线程不能使用载体的线程本地变量，反之亦然。

此外，从 Java 代码的角度来看，虚拟线程及其载体平台线程临时共享操作系统线程的事实是不存在的。相比之下，从本机代码的角度来看，虚拟线程及其载体都在同一个本机线程上运行。因此，在同一虚拟线程上多次调用的本机代码可能会在每次调用时观察到不同的 OS 线程标识符。

调度程序当前没有实现虚拟线程的时间共享。分时是对消耗了分配的 CPU 时间的线程的强制抢占。虽然在平台线程数量相对较少且 CPU 利用率为100% 的情况下，分时可以有效地减少某些任务的延迟，但是对于一百万个虚拟线程来说，分时是否有效尚不清楚。

执行

要利用虚拟线程，不必重写程序。虚拟线程不需要或期望应用程序代码显式地将控制权交还给调度程序; 换句话说，虚拟线程不是可协作的。用户代码不能假设如何或何时将虚拟线程分配给平台线程，就像它不能假设如何或何时将平台线程分配给处理器核心一样。

为了在虚拟线程中运行代码，JDK 的虚拟线程调度程序通过将虚拟线程挂载到平台线程上来分配要在平台线程上执行的虚拟线程。这使得平台线程成为虚拟线程的载体。稍后，在运行一些代码之后，虚拟线程可以从其载体卸载。此时平台线程是空闲的，因此调度程序可以在其上挂载不同的虚拟线程，从而使其再次成为载体。

通常，当虚拟线程阻塞 I/O 或 JDK 中的其他阻塞操作(如 BlockingQueue.take ())时，它将卸载。当阻塞操作准备完成时(例如，在套接字上已经接收到字节) ，它将虚拟线程提交回调度程序，调度程序将在运营商上挂载虚拟线程以恢复执行。

虚拟线程的挂载和卸载频繁且透明，并且不会阻塞任何 OS 线程。例如，前面显示的服务器应用程序包含以下代码行，其中包含对阻塞操作的调用:

response.send(future1.get() + future2.get());

这些操作将导致虚拟线程多次挂载和卸载，通常每个 get ()调用一次，在 send (...)中执行 I/O 过程中可能多次挂载和卸载。

JDK 中的绝大多数阻塞操作将卸载虚拟线程，从而释放其载体和底层操作系统线程，使其承担新的工作。但是，JDK 中的一些阻塞操作不会卸载虚拟线程，因此阻塞了其载体和底层 OS 线程。这是由于操作系统级别(例如，许多文件系统操作)或 JDK 级别(例如，Object.wait ())的限制造成的。这些阻塞操作的实现将通过暂时扩展调度程序的并行性来补偿对 OS 线程的捕获。因此，调度程序的 ForkJoinPool 中的平台线程的数量可能会暂时超过可用处理器的数量。可以使用系统属性 jdk.viralThreadScheduler.maxPoolSize 调优调度程序可用的最大平台线程数。

有两种情况下，在阻塞操作期间无法卸载虚拟线程，因为它被固定在其载体上:

• 当它在同步块或方法内执行代码时，或

• 当它执行本机方法或外部函数时。

固定并不会导致应用程序不正确，但它可能会妨碍应用程序的可伸缩性。如果虚拟线程在固定时执行阻塞操作(如 I/O 或 BlockingQueue.take () ) ，那么它的载体和底层操作系统线程将在操作期间被阻塞。长时间的频繁固定会通过捕获运营商而损害应用程序的可伸缩性。

调度程序不会通过扩展其并行性来补偿固定。相反，可以通过修改频繁运行的同步块或方法来避免频繁和长时间的固定，并保护潜在的长 I/O 操作来使用 java.util.concurrent.locks.ReentrantLock。不需要替换不常使用的同步块和方法(例如，只在启动时执行)或保护内存操作的同步块和方法。一如既往，努力保持锁定策略的简单明了。

新的诊断有助于将代码迁移到虚拟线程，以及评估是否应该使用 java.util.concurrent lock 替换同步的特定用法:

• 当线程在固定时阻塞时，会发出 JDK JFR事件。

• 当线程在固定时阻塞时，系统属性 jdk.tracePinnedThreads 触发堆栈跟踪。使用-Djdk.tracePinnedThreads = full 运行会在线程被固定时打印一个完整的堆栈跟踪，并突出显示保存监视器的本机框架和框架。使用-Djdk.tracePinnedThreads = short 将输出限制为有问题的帧。

内存使用和垃圾回收

虚拟线程的堆栈作为堆栈块对象存储在 Java 的垃圾回收堆中。堆栈随着应用程序的运行而增长和缩小，这既是为了提高内存效率，也是为了容纳任意深度的堆栈(直到 JVM 配置的平台线程堆栈大小)。这种效率支持大量的虚拟线程，因此服务器应用程序中每个请求一个线程的风格可以继续存在。

在上面的第二个例子中，回想一下，一个假设的框架通过创建一个新的虚拟线程并调用 handle 方法来处理每个请求； 即使它在深度调用堆栈的末尾调用 handle (在身份验证、事务处理等之后) ，handle 本身也会产生多个虚拟线程，这些虚拟线程只执行短暂的任务。因此，对于每个具有深层调用堆栈的虚拟线程，都会有多个具有浅层调用堆栈的虚拟线程，这些虚拟线程消耗的内存很少。

通常，虚拟线程所需的堆空间和垃圾收集器活动的数量很难与异步代码的数量相比较。一百万个虚拟线程至少需要一百万个对象，但是共享一个平台线程池的一百万个任务也需要一百万个对象。此外，处理请求的应用程序代码通常跨 I/O 操作维护数据。每个请求一个线程的代码可以将这些数据保存在本地变量中：

• 这些本地变量存储在堆中的虚拟线程堆栈中

• 异步代码必须将这些数据保存在从管道的一个阶段传递到下一个阶段的堆对象中

一方面，虚拟线程需要的堆栈帧布局比紧凑对象更浪费; 另一方面，虚拟线程可以在许多情况下变异和重用它们的堆栈(取决于低级 GC 交互) ，而异步管道总是需要分配新对象，因此虚拟线程可能需要更少的分配。

总的来说，每个请求线程与异步代码的堆消耗和垃圾收集器活动应该大致相似。随着时间的推移，我们希望使虚拟线程堆栈的内部表示更加紧凑。

与平台线程堆栈不同，虚拟线程堆栈不是 GC 根，所以它们中包含的引用不会被执行并发堆扫描的垃圾收集器(比如 G1)在 stop-the-world 暂停中遍历。这也意味着，如果一个虚拟线程被阻塞，例如 BlockingQueue.take () ，并且没有其他线程可以获得对虚拟线程或队列的引用，那么线程就可以被垃圾收集ーー这很好，因为虚拟线程永远不会被中断或解除阻塞。当然，如果虚拟线程正在运行，或者它被阻塞并且可能被解除阻塞，那么它将不会被垃圾收集。

当前虚拟线程的一个限制是 G1 GC 不支持大型堆栈块对象。如果虚拟线程的堆栈达到区域大小的一半(可能小到512KB) ，那么可能会抛出 StackOverfloError。

具体变化

java.lang.Thread

• Thread.Builder, Thread.ofVirtual(), 和 Thread.ofPlatform() 是创建虚拟线程和平台线程的新 API，例如：

Thread thread = Thread.ofVirtual().name("duke").unstarted(runnable);

创建一个新的未启动的虚拟线程“ duke”。

• Thread.startVirtualThread(Runnable) 是创建然后启动虚拟线程的一种方便的方法。

• Thread.Builder 可以创建线程或 ThreadFactory, 后者可以创建具有相同属性的多个线程。

• Thread.isVirtual() 测试是否一个线程是一个虚拟的线程。

• Thread.join 和 Thread.sleep 的新重载接受等待和睡眠时间作为java.time.Duration的实例。

• 新的 final 方法 Thread.threadId() 返回线程的标识符。现在不推荐使用现有的非 final 方法 Thread.getId() 。

• Thread.getAllStackTraces() 现在返回所有平台线程的映射，而不是所有线程的映射。

java.lang.Thread API其他方面没有改变。构造器也无新变化。

虚拟线程和平台线程之间的主要 API 差异是:

• 公共线程构造函数不能创建虚拟线程。

• 虚拟线程始终是守护进程线程，Thread.setDaemon (boolean)方法不能将虚拟线程更改为非守护进程线程。

• 虚拟线程有一个固定的 Thread.NORM_PRIORITY 优先级。Thread.setPriority(int)方法对虚拟线程没有影响。在将来的版本中可能会重新讨论这个限制。

• 虚拟线程不是线程组的活动成员。在虚拟线程上调用时，Thread.getThreadGroup() 返回一个名为“ VirtualThreads”的占位符线程组。The Thread.Builder API 不定义设置虚拟线程的线程组的方法。

• 使用 SecurityManager 集运行时，虚拟线程没有权限。

• 虚拟线程不支持 stop(), suspend(), 或 resume()方法。这些方法在虚拟线程上调用时引发异常。

Thread-local variables

虚拟线程支持线程局部变量(ThreadLocal)和可继承的线程局部变量(InheritableThreadLocal) ，就像平台线程一样，因此它们可以运行使用线程局部变量的现有代码。但是，由于虚拟线程可能非常多，所以应该在仔细考虑之后使用线程局部变量。

特别是，不要使用线程局部变量在线程池中共享同一线程的多个任务之间共享昂贵的资源。虚拟线程永远不应该被共享，因为每个线程在其生存期内只能运行一个任务。我们已经从 java.base 模块中移除了许多线程局部变量的使用，以便为虚拟线程做准备，从而减少在使用数百万个线程运行时的内存占用。

此外:

• The Thread.Builder API 定义了一个在创建线程时选择不使用线程局部变量的方法（a method to opt-out of thread locals when creating a thread）。它还定义了一个方法来选择不继承可继承线程局部变量的初始值（ a method to opt-out of inheriting the initial value of inheritable thread-locals）。当从不支持线程局部变量的线程调用时， ThreadLocal.get()返回初始值，ThreadLocal.set(T) 抛出异常。

• 遗留上下文类加载器（ context class loader）现在被指定为像可继承的线程本地一样工作。如果在不支持线程局部变量的线程上调用 Thread.setContextClassLoader(ClassLoader)，那么它将引发异常。

Networking

Pelaksanaan API rangkaian dalam pakej java.net dan java.nio.channels kini berfungsi dengan benang maya: operasi pada blok benang maya, contohnya, mewujudkan sambungan rangkaian atau membaca daripada soket, membebaskan platform asas benang untuk melakukan kerja lain.

Untuk membenarkan gangguan dan pembatalan, kaedah I/O menyekat yang ditakrifkan oleh java.net.Socket, ServerSocket dan DatagramSocket kini ditetapkan sebagai boleh terganggu apabila dipanggil dalam benang maya: Gangguan disekat pada soket Benang maya akan dilepaskan benang dan tutup soket.

Menyekat operasi I/O pada jenis soket ini sentiasa terganggu apabila diperoleh daripada InterruptibleChannel, jadi perubahan ini menjadikan API ini berkelakuan sama seperti pembina apabila diperoleh daripada gelagat saluran kekal konsisten.

java.io

Pakej java.io menyediakan API untuk strim bait dan aksara. Pelaksanaan API ini sangat segerak dan perlu diubah untuk mengelakkan disematkan untuk digunakan dalam benang maya.

Di bawah tudung, strim input/output berorientasikan bait tidak dinyatakan sebagai selamat benang, begitu juga gelagat yang dijangkakan apabila memanggil close() apabila menyekat utas dalam kaedah baca atau tulis. Dalam kebanyakan kes, tidak masuk akal untuk menggunakan aliran input atau output tertentu daripada berbilang urutan serentak. Pembaca/penulis berorientasikan aksara juga tidak dinyatakan sebagai selamat untuk benang, tetapi mereka mendedahkan objek kunci kepada subkelas. Selain diperbaiki, terdapat isu dan ketidakkonsistenan dengan penyegerakan dalam kelas ini, contohnya, penyahkod dan pengekod strim yang digunakan oleh InputStreamReader dan OutputStreamWriter menyegerakkan pada objek aliran dan bukannya mengunci objek.

Untuk mengelakkan penyematan, pelaksanaannya kini seperti berikut:

• BufferedInputStream, BufferedOutputStream, BufferedReader, BufferedWriter, PrintStream dan PrintWriter kini menggunakan kunci monitor secara langsung apabila digunakan secara langsung. . Apabila kelas ini disubkelaskan, ia disegerakkan seperti sebelumnya.

• Penyahkod dan pengekod strim yang digunakan oleh InputStreamReader dan OutputStreamWriter kini menggunakan kunci yang sama seperti InputStreamReader atau OutputStreamWriter yang disertakan.

Melangkah lebih jauh dan menghapuskan semua sekatan masuk yang selalunya tidak perlu ini adalah di luar skop artikel ini.

Selain itu, saiz awal penimbal yang digunakan oleh pengekod strim BufferedOutputStream, BufferedWriter dan OutputStreamWriter kini lebih kecil untuk mengurangkan penggunaan memori apabila terdapat banyak aliran atau penulis dalam timbunan - jika terdapat sejuta utas Maya , setiap utas mempunyai aliran penimbal pada sambungan soket, situasi ini mungkin berlaku

Kajian yang disyorkan: "tutorial video java"

Atas ialah kandungan terperinci Ringkasan mata pengetahuan Java: benang maya JDK19. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!