Он родился 25 октября 1919 года в многодетной крестьянской семье в высокогорном ауле Урада Шамильского района Дагестанской АССР. В детстве ничем не отличался от простых горских детишек. После окончания четырех классов начальной школы 11-летний Магомед поступил на рабфак.
Гасангусейн Абдулжелилов, председатель Дагестанского фонда патриотического воспитания молодежи имени генерал-полковника Магомеда Танкаева, приводит его воспоминания:
"Русского языка я не знал, учение давалось с трудом. Вставал ночью, зажигал самодельную коптилку - флакон из-под одеколона, керосин и вата. Укрывшись одеялом с головой, чтобы не мешать спящим, по слогам учил слова наизусть. Много читал, хотя сначала не понимал смысла, но что-то оставалось в голове".
Такая старательность принесла свои плоды. Магомед поступил в Дагестанский сельскохозяйственный институт, хотел вернуться в родное село агрономом. Но наступил 1939 год, началась Вторая мировая война. Танкаев решил поменять профессию и стать военным. Уйдя с третьего курса института, он подал документы в Краснодарское военное пехотное училище. За три дня до начала Великой Отечественной войны Магомед его окончил.
Лейтенант Танкаев получил назначение в одну из войсковых частей 19-й армии, расположенной на Украине, в районе Белой Церкви, и сразу принял под свое командование пулеметный взвод.
Танкаев участвовал в битве за Сталинград, фронтовыми дорогами прошел Украину, Польшу. День Победы встретил в звании подполковника, будучи командиром полка, в Чехословакии. 27 января 1945 года части 100-й стрелковой дивизии 1-го Украинского фронта, в состав которого входил 460-й стрелковый полк под командованием Танкаева, освободил концентрационный лагерь Освенцим (Аушвиц).
В книге О. Амаглобели и И. Дегтярева "Свобода пришла с востока" про освобождение Освенцима сказано:
"Командир 460-го полка подполковник Танкаев приказал поддерживающему артиллерийскому дивизиону открыть огонь по танкам и пехоте противника, а одним батальоном нанести удар с фронта. Контратака гитлеровцев была отражена. Наступила ночь. Стрельба с обеих сторон прекратилась. На рассвете 27 января, после короткого, но мощного огневого налета полки первого эшелона перешли в атаку. К 11 часам наша 100-я Львовская стрелковая дивизия во взаимодействии с 322-й стрелковой дивизией очистила Освенцимский лагерь. К исходу дня 460-й полк под командованием подполковника Танкаева в упорном бою захватил Бабице и во взаимодействии с 472-м полком овладел и Бжезинкой, освободив узников лагеря".
Из воспоминаний Магомеда Танкаева: "Огромные склады одежды, в том числе и детской. Склады с женскими волосами и золотыми коронками. Еще теплыми мы застали гигантские газовые печи для уничтожения узников, которые нацисты не успели взорвать. Нашли живыми изможденных пленных, они передвигались еле-еле или вообще не могли стоять на ногах… Мы уже знали о зверствах нацистов, но увиденное превзошло все наши ожидания".
После войны Магомед Танкаев остался в рядах Советской Армии и продолжил служить Родине. Он поступил в Военную академию имени Фрунзе, которую окончил в 1948 году с золотой медалью, затем служил 17 лет в десантных войсках.
В 1958 году ему было присвоено звание генерал-майора. В 1960 году он окончил Высшую военную академию Генерального штаба. В 1965 году ему было присвоено звание генерал-лейтенанта, а в 1969 году - генерал-полковника.
На этом служение Родине не завершилось. Магомед Танкаев был первым заместителем командующего Воздушно-десантными войсками СССР, командовал Северной группой войск, расположенной в Польше, Белорусским и Одесским военными округами, был начальником Главного управления военно-учебных заведений Минобороны СССР, представителем главнокомандующего Объединенными Вооруженными силами государств Варшавского договора в армии ГДР, начальником Военного института Министерства обороны в Москве.
Военный талант, воинское мастерство, огромные заслуги перед Отечеством были высоко оценены руководством страны. Танкаев награжден орденами Ленина и Октябрьской Революции, четырьмя орденами Боевого Красного Знамени, двумя орденами Отечественной войны, орденом Красной Звезды, многими медалями. Ему вручен Командорский крест со звездой Возрождения Польши, орден "За заслуги перед Отечеством" от Германской Демократической Республики и знаки отличия других государств.
Магомед Танкаев скончался 25 апреля 1998 года. Но его память бережно чтут в Дагестане.
На улице, носящей в Махачкале его имя, воздвигнут памятник, где в день рождения полководца всегда свежие цветы.