Советский военачальник, Герой Советского Союза, генерал армии. Профессор. Родился 13 сентября 1907 года в деревне Поречено ныне Смоленского района Смоленской области в семье крестьян. В 1919 году по окончании местной четырёхклассной школы переехал в Смоленск, поступил ремонтным рабочим на железную дорогу и одновременно продолжил обучение в школе второй ступени. С 1921 года состоял в частях особого назначения.

В 1926 году добровольно пошёл в Красную Армию и был направлен в 1-ю Московскую пехотную школу имени М. Ю. Ашенбреннера. По окончании школы в 1929 году назначен командиром взвода в 16-ю стрелковую дивизию имени В. И. Киквидзе. В том же году вступил в ВКП(б). В 1936 году с должности исполняющего обязанности командира полка капитан Иванов был направлен на учёбу в Военную академию имени М. В. Фрунзе. В 1939 году по окончании академии уже подполковник направлен в штаб Уральского военного округа помощником начальника оперативного отдела. Вскоре назначен начальником штаба 1-го стрелкового корпуса 8-й армии. В этой должности принимает участие в советско-финской войне 1939—1940 годов. За мужество и отвагу, проявленные в этих боях на Карельском перешейке был награждён первым орденом Красного Знамени.

В июне-декабре 1941 — начальник оперативного отдела — заместитель начальника штаба 13-й армии (Западный, Брянский фронты), В оборонительных боях армии за Молодечно, Минск, Могилёв Иванов часто находился в боевых порядках, лично организовывал оборону и возглавлял контратаки. За организацию обороны Минска и рубежей на Днепре и Березине награждён орденами Ленина и Красного Знамени. В декабре 1941 — июле 1942 — после проведение Елецкой операции, подполковник начальник штаба 38-й армии (Юго-Западный фронт). В июле-августе 1942 — подполковник начальник штаба 1-й танковой армии (Юго-Западный фронт), формирующейся в районе города Калач-на-Дону 1-й танковой армии. В августе 1942 — начальник оперативного отдела штаба Юго-Восточного фронта. Осенью 1942 года полковнику присвоено воинское звание «генерал-майор». В августе-октябре 1942 — начальник штаба 1-й гвардейской армии (Юго-Восточный, Сталинградский, Донской фронты). В октябре-декабре 1942 — начальник оперативного отдела штаба Юго-Западного фронта, Принял активное участие в создании фронтового управления. Участвовал в планировании и успешном осуществлении операции по разгрому немецких войск под Сталинградом.

В декабре 1942 — мае 1943 — начальник штаба Юго-Западного фронта, После гибели начальника штаба Юго-Западного фронта Г. Д. Стельмаха он выдвигается при поддержке командующего Юго-Западным фронтом Н. Ф. Ватутина на должность начальником штаба Юго-Западного фронта. В мае-октябре 1943 — генерал-майор специальным приказом Ставки переведён на должность начальника штаба Воронежского фронта, готовившегося к Курской битве. Это перемещение состоялось после того как командующим Воронежским фронтом был назначен Н. Ф. Ватутин. В октябре — ноябре 1943 — начальник штаба 1-го Украинского фронта. В мае 1943 года после освобождения Киева был направлен на Закавказский фронт. В ноябре 1943-июне 1944 — начальник штаба Закавказского фронта. С 29 октября 1944 по июнь 1945 — начальник штаба 3-го Украинского фронта.

В июне 1945 года генерал-полковник назначается начальником штаба Главного командования советских войск на Дальнем Востоке. За лето под его руководством была тщательно подготовлена операция по разгрому Квантунской армии. Указом Президиума Верховного Совета СССР от 8 сентября 1945 года за умелое руководство войсками, личное мужество и отвагу, проявленные в боях генерал-полковнику присвоено звание Героя Советского Союза.

До марта 1946 — начальник штаба Главного командования советских войск на Дальнем Востоке. В марте 1946 — ноябре 1948 — начальник штаба Белорусского военного округа. В ноябре 1948 — июне 1952 — начальник штаба Группы советских оккупационных войск в Германии. В 1952—1953 — начальник штаба Одесского военного округа. В 1953—1956 — начальник штаба Московского военного округа. В апреле 1956 — сентябре 1959 — начальник штаба Киевского военного округа. В сентябре 1959 — декабре 1962 — начальник Главного оперативного управления — помощник, затем заместитель начальника Генерального штаба Вооружённых Сил СССР. В 1962 году генерал-полковник , как заместитель начальника генерального штаба, фактически руководил операцией «Анадырь» по переброске советских войск и вооружения на Кубу. В марте 1963 — сентябре 1964 — начальник штаба Сибирского военного округа. В сентябре 1964 — апреле 1968 — командующий войсками Сибирского военного округа.

С 24 мая 1968 по февраль 1973 года был начальником Военной академии Генерального штаба имени К. Е. Ворошилова. 2 февраля 1968 года присвоено звание «генерал армии». Автор многих работ по истории военного искусства. С февраля 1973 по 1992 год — военный инспектор-советник Группы генеральных инспекторов Министерства обороны СССР. С 1992 года — в отставке.

Награжден тремя орденами Ленина, орденом Октябрьской Революции, шестью орденами Красного Знамени, орденом Суворова I-й степени, орденом Кутузова I-й степени, орденом Отечественной войны I-й степени, орденом Трудового Красного Знамени, орденом Красной Звезды, орденом «За службу Родине в Вооруженных Силах СССР» III-й степени, иностранными орденами, медалями.

Скончался 26 сентября 1993 года. Похоронен в Москве на Новодевичьем кладбище.