Анатолий Сергеевич Горохов родился 7 апреля 1938 года в Калинине (Тверь), четвертым ребенком в семье. Отец был директором медно-аммиачной фабрики, мама работала инженером по качеству на ткацкой фабрике. Рано научился читать и писать.
Окончил Московскую консерваторию по классу вокала. В 1960-1970-е годы - ведущий музыкальных программ на радио - "До-ре-ми-фа-соль" и "После полуночи".
Песня Марка Минкова на стихи Горохова "Наша служба", звучащая с первого эпизода сериала "Следствие ведут ЗнаТоКи", стала неофициальным гимном советской, а впоследствии и российской милиции. Автор сам пел ее - с Эдуардом Лабковским.
Как вокалист Горохов записал россыпь шлягеров - "Крыши" Фельцмана и Шаферана, "Ветер перемен" со Смеяном, "Чунга-чангу" с Ведищевой, "Полярный край". Он автор слов к песням "Королева красоты", "Будь со мной", "Мир на двоих" и еще ряда композиций, известных по исполнению Муслима Магомаева, песен "Звездный сон" и "Колыбельной" Анны Герман.
Вокал певца звучит в кинофильмах и анимационных лентах "Мама", "Мэри Поппинс, до свиданья", "Катерок", "Бременских музыкантах" и их продолжении - и других.
Был женат на актрисе Аде Шереметьевой, бывшей супруге легендарного "грустного клоуна" Леонида Енгибарова.
Об уходе певца сообщил портал "Кино-театр.ру".