Сколько потоков Может поддерживать виртуальная машина Java?
На протяжении многих лет производительность систем, которые мы используем, росла в геометрической прогрессии. Следовательно, количество потоков, которые поддерживает виртуальная машина Java, также увеличилось.
Но сколько мы на самом деле можем создать? Ответ не является точным числом, потому что он зависит от множества факторов.
Мы обсудим несколько этих факторов и то, как они влияют на количество потоков, которые мы можем создать в виртуальной машине Java.
2. Стековая память
Одним из наиболее важных компонентов потока является его стек. Максимальный размер стека и количество создаваемых потоков напрямую зависят от объема доступной системной памяти.
Таким образом, увеличение объема памяти также увеличивает максимальное количество потоков, которые мы можем запускать в системе. Более подробную информацию о размере стека можно найти в нашей статье Настройка размеров стека в JVM .
Наконец, стоит упомянуть, что, начиная с Java 11, JVM не агрессивно фиксирует всю зарезервированную память для стека. Это помогает увеличить количество потоков, которые мы можем запускать. Другими словами, даже если мы увеличим максимальный размер стека, объем памяти, используемой потоком, будет зависеть от фактического размера стека.
3. Кучная память
Куча напрямую не влияет на количество потоков, которые мы можем выполнить. Но он также использует ту же системную память.
Таким образом, увеличение размера кучи ограничивает доступную память для стека , тем самым уменьшая максимальное количество потоков, которые мы можем создать.
4. Выбор операционной системы
При создании нового потока Java создается новый поток собственной ОС, который напрямую связан с потоком виртуальной машины.
Таким образом, операционная система контролирует управление потоком.
Кроме того, могут применяться различные ограничения в зависимости от типа операционной системы.
В следующих подразделах мы рассмотрим эти аспекты для наиболее распространенных систем.
4.1. Linux
Системы на базе Linux на уровне ядра рассматривают потоки как процессы. Это, ограничения процесса, такие как параметр pid_max kernel, напрямую повлияют на количество потоков, которые мы можем создать.
Другим параметром ядра является threads-max , который описывает общее максимальное количество потоков.
Мы можем получить все эти параметры, выполнив ядро sysctl. .
Наконец, существует ограничение на максимальное количество процессов на пользователя, которое можно получить с помощью команды ulimit -u .
4.2. Окна
На компьютерах с Windows для потоков не задано никаких ограничений. Таким образом, мы можем создавать столько потоков, сколько захотим, пока в нашей системе не закончится доступная системная память.
4.3. macOS
Существует два основных ограничения для систем, работающих под управлением macOS, определяемых двумя параметрами ядра:
- num_threads представляет общее максимальное количество потоков, которые могут быть созданы
- num_task threads представляет максимальное количество потоков на процесс
Значения этих параметров можно получить, выполнив команду sysctl kern. .
Один момент, о котором стоит упомянуть, заключается в том, что при достижении одного из этих пределов будет выдан OutOfMemoryError , что может ввести в заблуждение.
5. Виртуальные потоки
Мы можем еще больше увеличить количество потоков , которые мы можем создать, используя легкие виртуальные потоки, которые поставляются с Project Loom, который еще не доступен для общественности.
Виртуальные потоки создаются JVM и не используют потоки ОС , что означает, что мы можем буквально создавать миллионы из них одновременно.
6. Заключение
В этой статье мы рассмотрели наиболее важные аспекты, которые могут повлиять на максимальное количество потоков, которые могут быть созданы в виртуальной машине Java.
Однако в большинстве случаев увеличение лимита вряд ли навсегда решит проблемы масштабируемости. Нам нужно будет рассмотреть возможность переосмысления реализации приложения или даже применения горизонтального масштабирования.
Java: What is the Limit to the Number of Threads You Can Create?
Join the DZone community and get the full member experience.
I have seen a number of tests where a JVM has 10K threads. However, what happens if you go beyond this?
My recommendation is to consider having more servers once your total reaches 10K. You can get a decent server for $2K and a powerful one for $10K.
Creating threads gets slower
The time it takes to create a thread increases as you create more thread. For the 32-bit JVM, the stack size appears to limit the number of threads you can create. This may be due to the limited address space. In any case, the memory used by each thread’s stack add up. If you have a stack of 128KB and you have 20K threads it will use 2.5 GB of virtual memory.
| Bitness | Stack Size | Max threads |
|---|---|---|
| 32-bit | 64K | 32,073 |
| 32-bit | 128K | 20,549 |
| 32-bit | 256K | 11,216 |
| 64-bit | 64K | stack too small |
| 64-bit | 128K | 32,072 |
| 64-bit | 512K | 32,072 |
Note: in the last case, the thread stacks total 16 GB of virtual memory.
Java 6 update 26 32-bit,-XX:ThreadStackSize=64
4,000 threads: Time to create 4,000 threads was 0.522 seconds 8,000 threads: Time to create 4,000 threads was 1.281 seconds 12,000 threads: Time to create 4,000 threads was 1.874 seconds 16,000 threads: Time to create 4,000 threads was 2.725 seconds 20,000 threads: Time to create 4,000 threads was 3.333 seconds 24,000 threads: Time to create 4,000 threads was 4.151 seconds 28,000 threads: Time to create 4,000 threads was 5.293 seconds 32,000 threads: Time to create 4,000 threads was 6.636 seconds After creating 32,073 threads, java.lang.OutOfMemoryError: unable to create new native thread at java.lang.Thread.start0(Native Method) at java.lang.Thread.start(Thread.java:640) at com.google.code.java.core.threads.MaxThreadsMain.addThread(MaxThreadsMain.java:46) at com.google.code.java.core.threads.MaxThreadsMain.main(MaxThreadsMain.java:16)
Java 6 update 26 32-bit,-XX:ThreadStackSize=128
4,000 threads: Time to create 4,000 threads was 0.525 seconds 8,000 threads: Time to create 4,000 threads was 1.239 seconds 12,000 threads: Time to create 4,000 threads was 1.902 seconds 16,000 threads: Time to create 4,000 threads was 2.529 seconds 20,000 threads: Time to create 4,000 threads was 3.165 seconds After creating 20,549 threads, java.lang.OutOfMemoryError: unable to create new native thread at java.lang.Thread.start0(Native Method) at java.lang.Thread.start(Thread.java:640) at com.google.code.java.core.threads.MaxThreadsMain.addThread(MaxThreadsMain.java:46) at com.google.code.java.core.threads.MaxThreadsMain.main(MaxThreadsMain.java:16)
Java 6 update 26 32-bit,-XX:ThreadStackSize=128
4,000 threads: Time to create 4,000 threads was 0.526 seconds 8,000 threads: Time to create 4,000 threads was 1.212 seconds After creating 11,216 threads, java.lang.OutOfMemoryError: unable to create new native thread at java.lang.Thread.start0(Native Method) at java.lang.Thread.start(Thread.java:640) at com.google.code.java.core.threads.MaxThreadsMain.addThread(MaxThreadsMain.java:46) at com.google.code.java.core.threads.MaxThreadsMain.main(MaxThreadsMain.java:16)
Java 6 update 26 64-bit,-XX:ThreadStackSize=128
4,000 threads: Time to create 4,000 threads was 0.577 seconds 8,000 threads: Time to create 4,000 threads was 1.292 seconds 12,000 threads: Time to create 4,000 threads was 1.995 seconds 16,000 threads: Time to create 4,000 threads was 2.653 seconds 20,000 threads: Time to create 4,000 threads was 3.456 seconds 24,000 threads: Time to create 4,000 threads was 4.663 seconds 28,000 threads: Time to create 4,000 threads was 5.818 seconds 32,000 threads: Time to create 4,000 threads was 6.792 seconds After creating 32,072 threads, java.lang.OutOfMemoryError: unable to create new native thread at java.lang.Thread.start0(Native Method) at java.lang.Thread.start(Thread.java:640) at com.google.code.java.core.threads.MaxThreadsMain.addThread(MaxThreadsMain.java:46) at com.google.code.java.core.threads.MaxThreadsMain.main(MaxThreadsMain.java:16)
Java 6 update 26 64-bit,-XX:ThreadStackSize=512
4,000 threads: Time to create 4,000 threads was 0.577 seconds 8,000 threads: Time to create 4,000 threads was 1.292 seconds 12,000 threads: Time to create 4,000 threads was 1.995 seconds 16,000 threads: Time to create 4,000 threads was 2.653 seconds 20,000 threads: Time to create 4,000 threads was 3.456 seconds 24,000 threads: Time to create 4,000 threads was 4.663 seconds 28,000 threads: Time to create 4,000 threads was 5.818 seconds 32,000 threads: Time to create 4,000 threads was 6.792 seconds After creating 32,072 threads, java.lang.OutOfMemoryError: unable to create new native thread at java.lang.Thread.start0(Native Method) at java.lang.Thread.start(Thread.java:640) at com.google.code.java.core.threads.MaxThreadsMain.addThread(MaxThreadsMain.java:46) at com.google.code.java.core.threads.MaxThreadsMain.main(MaxThreadsMain.java:16)