JVM придумали, чтобы куча неопытных "индусов" смогла клепать хоть какой-то через ж-пу работающий код, т.к. С++ требует аккуратности и понимания, что вы делаете, зачем и какие возможности языка уместно применять в конкретном случае, а какие приведут к потери производительности и распуханию программы. Естественно, для эффективного применения С++ надо понимать, в какие примерно машинные инструкции преобразуется ваш код и как будут организованы данные в памяти, чтобы код оставался эффективен. Т.е. вы можете кодировать на С++, как на Java или другом языке высокого уровня, но преимущества С++ раскрываются при понимании, как работает железо и, при необходимости, дозированном использовании ASM, если вы строите высокопроизводительные системы.

В С++ есть гораздо больше интересных вещей, чем предоставляет любая JVM, плюс в некоторых компиляторах С++ возможность тесной связки с ASM, которой нет и не может быть в языках на JVM, т.е. сравнимого сочетания производительности и гибкости другими средствами, кроме как сочетанием С++ и ASM вы не получите, как не старайтесь, и разница в производительности будет как минимум на порядок. Поэтому там, где программы на C++ и ASM работают на дохлом железе, в иных случаях строят дата-центры, чтобы вся эта телега хоть как-то работала.

И помните! Процессор - это аппаратная "JVM", которую нужно умело использовать, а не убивать её возможности программными прослойками в виде других JVM!