Паркаи родился в 1928 году. В 1938-м начал учиться игре на фортепиано, совершенствуя мастерство до 1953-го - под руководством Белы Амброзии. После переключился на дирижирование, в чем преуспел.
В 1955-м Паркаи окончит Академию музыки имени Листа (где много лет будет преподавать потом). С 1963-го руководил Камерным хором имени Ференца Листа.
Широкой публике артист стал особо известен в 1982-м. когда на Всемирном фестивале в Нью-Йорке Паркаи дирижировал хором из 400 человек, исполнивших "Вечернюю песню" Золтана Кодая.