Родился 15 мая 1925 года в городе Козьмодемьянск (ныне Республика Марий Эл). Отец — композитор Яков Андреевич Эшпай, мать — учитель русского языка и литературы Валентина Константиновна.

В 1928 году семья переехала в Москву. В 1941 году закончил школу-семилетку имени Гнесиных (класс В. В. Листовой). Во время эвакуации обучался в средней школе № 1 города Мариинского Посада, который считает своей второй родиной и часто посещает^[1]. С началом Великой Отечественной войны выразил желание уйти на фронт добровольцем, однако в связи с возрастом не был принят. В 1943 году поступил в Чкаловское (Оренбургское) пулемётное училище, окончил курсы военных переводчиков при ВИИЯКА. С конца 1944 года воевал на 1-м Белорусском фронте; 9 мая 1945 года встретил в Берлине^[2]. Был награждён орденом Красной Звезды, медалями.

После войны учился в Музыкальном училище при Московской консерватории на фортепианном (класс Р. Чернова) и композиторском (класс Е. Месснера) факультетах. В 1953 году окончил Московскую консерваторию по классу композиции уЕ. К. Голубева (занимался вначале у Н. Я. Мясковского) и по фортепиано у В. В. Софроницкого. В 1956 году окончил там же аспирантуру (рук. А. И. Хачатурян).

С 1960 года — секретарь, в 1973—1979 годы — 1-й секретарь СК РСФСР, с 1968 года — секретарь СК СССР (член с 1952 года). Президент Российского авторского общества.

В 1965—1970 годах преподавал композицию в Московской консерватории (профессор).

Выступает как пианист с исполнением своих произведений. 

В 2011 г. в интервью корреспонденту газеты «Аргументы и факты» так рассказывал об истории написания одной из известнейших его песен:

«„Москвичи" десять лет спустя после Победы я написал для Марка Бернеса. Мы жили на Большой Бронной в полуподвале. К нам ходили через окно. Вот и он так пришёл. Громко крикнул через подоконник: „Марийцы здесь?! (Мой папа — мари, он и его двоюродный брат Палантай — основоположники марийской профессиональной музыки.) Есть слова, нужна музыка!" Я прочёл текст и был буквально ошеломлён. Поразительное совпадение! Всё, о чём писал незнакомый мне тогда поэт Евгений Винокуров, было у меня в жизни! И сонная Висла, и весенняя сырая земля, и улица — Бронная… Брат Валя, который не вернулся с войны, погиб под Ленинградом. А мама всё ждала и ждала его возвращения до последних своих дней… Была даже девушка, которая не дождалась…».^[2]

Эшпай — отец кинорежиссёра А. А. Эшпая, племянник композитора А. Н. Тогаева^[1].