Река Ольховка берет свое начало из родника в 17 километрах от города Кисловодска.
Название ей дали в начале XIX века солдаты и первые поселенцы Кисловодской крепости, из-за влаголюбивой ольхи, в обилии росшей вдоль берегов.
Водопад образовался в месте пересечения рекой Ольховкой известнякового пласта, ныне он назван в честь Михаила Юрьевича Лермонтова.
Поэт был настолько очарован этим водопадом, что описал его в романе «Герой нашего времени» — Печорин поит своего коня именно здесь.
В конце XIX и в начале XX века, вода в этой части Ольховка была настолько чиста, что её поставляли в Кисловодск как питьевую.