俺も信じられないが確かに各種ベンチマークではJavaはC/C++と一位を争っていることが多い。

Objective-Cの『遅さ』を計測したら、JavaやC++の5倍も遅かった
http://www.anlyznews.com/2011/02/objective-c.html

俺の言語がこんなに遅いわけがない！？ ?C, Java, PHP, Python, Rubyによるプログラミング言語 速度比較?
http://maplesystems.co.jp/blog/all/programming/2015.html

少なくとも何百万回もループするようなプログラムではJavaは速い。
Javaが遅く感じるのはJITで起動時にコンパイルするから起動時間が他の言語よりも長くなりやすい。
20年ぐらい前はパソコンも非力だったし、いくら起動後の速度が速くても起動が遅ければ遅く感じる。
その問題から全体をコンパイルするのではなくて重要な部分だけコンパイルして起動するHotSpotという技術を
作るとか大昔に言っていたけど今どうなっているのかは知らない。
今はJava高速化技術も進んでいる上に、パソコン自体が大幅に速くなっているから速度の問題はないと思う。
ただ、20年ぐらい前に起動時間がかかりすきでJavaなんて遅くて使えないというイメージが一度ついているから、
多くの人はまだ遅いというイメージを持ったままだ。