АОН-1 создавалась на основе трех ТБАК - тяжелобомбардировочных авиакорпусов, которые базировались в Монино, Калинине и Ростове. Изначально эта армия обозначалась как резерв главного командования. Другими словами - для применения в особых случаях. Основной машиной АОН поначалу были ТБ-3, а чуть позже ее место заняли двухмоторные дальние бомбардировщики ДБ-3 (ЦКБ-30). Смена началась в 1937 году, когда с заводов поступили эти новые самолеты конструкции Сергея Ильюшина.
Чуть позже были сформированы еще две АОН. Вторая базировалась на Дальнем Востоке, а третья - на Северном Кавказе. Соответственно, командование АОН-1 размещалось в Москве, АОН-2 - в Хабаровске, а АОН-3 - в Ростове-на-Дону.
Кроме ДБ-3 на службе в АОН состояли уже упомянутые туполевские ТБ-3, а также самолеты-разведчики Р-6, истребители сопровождения И-3 и И-5. АОН состояла из трех бригад по 6 эскадрилий в каждой. Структура была такая: две эскадрильи тяжелых бомбардировщиков, две - дальних бомбардировщиков, и по одной - самолетов-разведчиков и истребителей.
В количественном отношении это выглядело так: 72 бомбардировщика, 36 разведчиков и 36 истребителей. Вместе со вспомогательными самолетами (штабными, связи, транспортными) в составе АОН первоначально по штату положено было иметь 216 машин. Но позже их число было доведено до 340 - 360 самолетов.
До Великой Отечественной войны 1-я и 3-я АОН участвовали в боевых действиях. Первая - на советско-финской войне, третья - в конфликтах с Японией в 1938-1939 годах.
В октябре 1940 года АОН были упразднены. На их основе создали управление Дальнебомбардировочной авиации (ДБА), состоявшее из пяти тяжелобомбардировочных авиакорпусов (ТБАК).