Причиной появления уникального самолета стала необходимость прикрытия военных объектов от воздушных и ракетных ударов противника. Зенитно-ракетные комплексы С-25 и С-75, при всех их достоинствах, обладали ограниченными возможностями по дальности и мобильности. Создать на их базе сплошной пояс ПВО, способный защитить всю страну или хотя бы наиболее опасные направления, в северных и восточных районах СССР было нереально по экономическим соображениям.
Перехватчик Ту-128 проектировался на базе тяжелого и сравнительно маломаневренного опытного бомбардировщика. Размах крыльев составлял почти 18 метров. Максимальная взлетная масса - 43700 килограммов. Высота полета - 15600 метров. Скорость - 1910 километров в час.
Для повышения боевой эффективности две из четырех ракет К-80 имели полуактивные радиолокационные головки самонаведения, еще две ракеты - тепловые ГСН. Большая расчетная дальность самолета в сочетании с возможностью длительного барражирования в зоне и на направлениях ожидаемых ударов авиации противника выносили рубежи перехвата целей до 1500 километров, не допуская самолеты не только к охраняемым объектам, но и к наземной системе ПВО.
Кроме того, комплекс мог работать в полуавтономном режиме в радиолокационном поле наземных РЛС дальнего обнаружения или станций самолетов ДРЛО, что давало возможность успешно применять Ту-128 в зонах, где отсутствовали системы автоматизированного наведения - в Сибири и на Дальнем Востоке. Согласно предварительным расчетам, новый комплекс имел высокую эффективность и мог обеспечить вероятность поражения цели при стрельбе двумя ракетами на уровне 76 - 77 процентов.
Самолетами Ту-128 были укомплектованы шесть полков авиации ПВО. Две трети всех выпущенных самолетов оставались на службе в 1980-е годы. Эксплуатация Ту-128 со временем была прекращена с поступлением более новых самолетов, таких как МиГ-31.
Единственной боевой операцией Ту-128 стало уничтожение разведывательных зондов НАТО. В музее 64-го истребительного полка в Омске есть упоминания, что в 1975 году истребители сбили над Казахстаном автоматический дрейфующий аэростат США.