Окончив оружейное отделение Новочеркасской военно-ремесленной школы, в 1891 году Токарев был направлен оружейным мастером в 12-й Донской казачий полк. Позже он окончил Новочеркасское казачье училище и Офицерскую стрелковую школу в Ораниенбауме. Оттуда его командировали на Сестрорецкий оружейный завод - заодно поручили изготовить созданную им по собственной инициативе автоматическую винтовку. Замысел Токарева признали "правильным и заслуживающим внимания".
С началом Первой мировой войны Токарев ушел на фронт командиром сотни 29-го Донского казачьего полка. За храбрость был награжден пятью боевыми орденами и дослужился до чина есаула. В Гражданскую войну он служил в Красной армии, где его опыт и знания оказались востребованы.
В 1921 году Токарев получил назначение на Тульский оружейный завод. Именно здесь, в оружейной столице России, раскрылся его талант. За время работы в Туле Токарев создал свои лучшие образцы: ручной пулемет Максима-Токарева, знаменитый пистолет ТТ, самозарядные винтовки СВТ-38 и СВТ-40, а также автоматическую винтовку АВТ-40.
Первой серьезной работой в Туле стала доработка станкового пулемета Максима. Исходный образец весил около 90 кг и был малоподвижен для маневренного боя. Токарев заменил громоздкое водяное охлаждение воздушным, снял колесный станок, установил вместо него легкие сошки, а также приладил деревянный приклад и спусковой крючок вместо гашетки. В итоге масса пулемета снизилась до 12,9 кг, то есть почти в семь раз. В 1925 году Красная армия приняла ручной пулемет Максима-Токарева (МТ) на вооружение, так он стал первым отечественным ручным пулеметом.
В 1930 году на вооружение Красной армии поступил пистолет Токарева образца 1930 года - знаменитый ТТ, что расшифровывалось как "Тульский Токарева". Это был первый самозарядный пистолет, полностью разработанный в СССР и принятый на вооружение армии. Токарев поставил во главу угла простоту и надежность: оружие весило всего 850 граммов и при этом использовало мощный патрон.
Всего в СССР выпустили почти 1,7 миллиона ТТ. Пистолет верно служил на фронтах Великой Отечественной войны, однако и спустя полвека после нее он не потерял актуальности, став в 1990-е, годы одним из символов бандитских разборок. Токарева это точно не порадовало бы, однако факт остается фактом - даже более чем через 60 лет с момента начала эксплуатации ТТ оставался грозным оружием.
В 1938 году был объявлен конкурс на создание новой армейской самозарядной винтовки. Токарев, опираясь на свои наработки, одержал безоговорочную победу. Так появилась 7,62-мм самозарядная винтовка Токарева образца 1938 года (СВТ-38), а затем и ее модернизированная версия СВТ-40, которую ласково называли "Светой" или "Светкой".
Самозарядная винтовка ТокареваСВТ-40 применялась и как снайперская винтовка. К примеру, из нее уничтожала гитлеровских солдат и офицеров легендарный снайпер Людмила Павличенко. Впрочем, полностью заменить мосинскую винтовку "Светке" так и не удалось: она была дороже в производстве и требовала от бойцов более высокой квалификации. В условиях массового призыва требовалось оружие попроще.
Токарев известен прежде всего как оружейник, но его увлечение фотографией заслуживает отдельного внимания. В 1948 году он создал панорамную камеру ФТ-1 - ее в 1948-1949 годах малыми партиями выпускал Красногорский механический завод. После серьезной модернизации, проведенной заводскими конструкторами, фотоаппарат, названный ФТ-2, пошел в серию и производился с 1958 по 1965 год.
Федор Токарев ушел из жизни 7 июня 1968 года, не дожив всего неделю до своего 97-летия. За свои заслуги он был удостоен звания Героя Социалистического Труда, стал доктором технических наук, лауреатом Сталинской премии. Сегодня память о нем бережно хранят в Тульском государственном музее оружия - к юбилею там открыта выставка "Тульский Токарев. 155 лет со дня рождения Ф.В. Токарева".