Анатолий Николаевич Левченко родился 6 февраля 1947 года в поселке Новониколаевский Волгоградской области в семье рабочего. С детства мальчишка мечтал о небе. После школы поступил в Качинское высшее военное авиационное училище летчиков.
Служил в Закавказском, Прибалтийском военных округах. А с мая 1985 года он старший штурман 655-го истребительного авиационного полка ВВС 40-й армии Туркестанского военного округа, который являлся частью ограниченного контингента советских войск в Демократической Республике Афганистан.
27 декабря 1985 года подполковник Левченко успел сделать уже два боевых вылета. Во время первого полета ведомое им звено прорвалось через зону огня противника и уничтожило засевших в укрытиях душманов. Это помогло афганским воинам значительно продвинуться вперед. Во время второго вылета Левченко обнаружил, а затем уничтожил колонну со стрелковым оружием и боеприпасами.
В тот же день поступило третье задание - нанести удар по укрепленной позиции противника на участке шоссе, по которому продвигались колонны афганских машин. В воздухе Левченко прицелился и пустил ракеты. И в этот момент самолет подбросило. Его подбили. Раненый летчик направил МиГ-23МЛД на укрепленную позицию противовоздушной обороны душманов. Его последний полет длился 14 минут.
Указом от 26 мая 1986 года за мужество и героизм, проявленные при оказании интернациональной помощи Демократической Республике Афганистан, подполковнику Анатолию Николаевичу Левченко присвоили звание Героя Советского Союза (посмертно). Награжден он также орденами Ленина, Красной Звезды, медалями.
Похоронен подполковник Анатолий Левченко на родине - в поселке Новониколаевский. Его именем названа улица в Новониколаевском и средняя школа № 1.