Güzel soru. Multi thread bir sunucu kullanılıyorsa (çoğu öyle) thread işini bitirene kadar yeni bir istek alamayacak. İşi bittikten sonra alabilecektir. Normalde işi bitene kadar takılı kalacağını zaten tahmin ediyorum. Hangi durumda işi bitmeyecektir. Muhtemelen memory leak felan yaşanırsa hafızada hiç yer kalmaz ve boşaltamazsa o zaman komple kapatmak gerekecektir.
Bugünün dillerinde, java/C#/go/rust, garbage collector bu temizleme işini yapacaktır muhtemelen. Yine de küçük bug payı var. Ama C/C++ ile geliştirdiğin programlarda memory management doğru yapılmadıysa sorun olacaktır.
Çok büyük request/response alan uygulamalarda Java kullanımı birkaç açıdan yaygın. Birisi bu olabilir.