Фёдор Васильевич Токарев родился 2 июня 1871 года в станице Егорлыкская, которая сейчас входит в состав Ростовской области. Он происходил из казачьей семьи и окончил Новочеркасское юнкерское училище, где получил специальность оружейного мастера. Затем он служил в 12-м Донском казачьем полку.

В 1907 году Фёдор Васильевич поступил на курсы при Офицерской стрелковой школе в Ораниенбауме. 7 июля 1908 года он представил на испытания свой первый образец автоматической винтовки, разработанной на основе магазинной винтовки Мосина образца 1891 года. Для доработки этой винтовки его направили на Сестрорецкий оружейный завод.

С началом Первой мировой войны Токарев был призван в действующую армию, где командовал взводом и сотней в 12-м Донском казачьем полку. Он участвовал в боевых действиях на территории Польши и Галиции. В 1916 году его отозвали с фронта и вернули на Сестрорецкий завод.

В июле 1919 года Ф.В. Токарев был командирован в город Ижевск по распоряжению Чрезвычайной комиссии по снабжению Красной Армии для участия в восстановлении оружейного завода после ухода армии Колчака. На Ижевском заводе Фёдор Васильевич занимал должность помощника главного инженера. Находясь в Ижевске, Фёдор Васильевич продолжил свои работы по созданию автоматических винтовок.

В июле 1920 года из-за ошибки работницы, которая перепутала маркировку сталей, месячная программа производства винтовок была сорвана. Процент брака достигал 90%. Токарева, как отвечавшего за техническую часть завода, привлекли к суду Военно-революционного трибунала. Его приговорили к смертной казни и отправили в Казань. Однако там приговор был пересмотрен, и его заменили на 15 лет тюремного заключения. Но уже в октябре 1920 года Токарева освободили, и он вернулся на Ижевский завод.

После освобождения, 4 октября 1921 года, Фёдор Васильевич представил Артиллерийскому комитету доработанную автоматическую винтовку. Винтовки неплохо показали себя при испытаниях, и было решено изготовить 10 экземпляров винтовок этой системы на Тульском оружейном заводе.

В 1921 году Ф.В. Токарев был переведён в конструкторское бюро Тульского оружейного завода, где он разработал свои самые знаменитые образцы стрелкового вооружения, такие как пистолет ТТ, самозарядные винтовки СВТ-38, СВТ-40 и АКТ-40.

В начале Великой Отечественной войны вместе с персоналом и оборудованием Тульский завод был эвакуирован на Урал. В 1941–1943 годах Фёдор Васильевич работал руководителем ружейной мастерской завода №66 в городе Златоуст Челябинской области. А в 1946 году он был переведён на административную работу.

За свою конструкторскую деятельность Фёдору Васильевичу было присвоено звание Героя Социалистического Труда. Лауреат Сталинской премии I степени, награждён четырьмя орденами Ленина. Он награждён орденом Суворова II степени, орденом Отечественной войны I степени, двумя орденами Трудового Красного Знамени, орденом Красной Звезды, а также медалями.