Родился 1 декабря 1901 года в селе Судьбище Тульской губернии (ныне Новодеревеньковского района Орловской области) в семье крестьянина. С малых лет трудился в хозяйстве родителей. 17-летним юношей вступил в Красную гвардию. Участник Гражданской войны, после демобилизации в 1923 году трудился в родном селе, был избран председателем комитета крестьянской взаимопомощи.

С 1930 года поселился в Туле. В Новомедвенском совхозе под Тулой выращивал овощи, хлеб, птицу, скот.

В сентябре 1941 был призван в ряды Советской армии в возрасте 40 лет, на фронтах Великой Отечественной войны с декабря 1941 года, был командиром 120-миллиметрового орудия 890 артполка 330-ой Тульской стрелковой дивизии. В его орудийный расчёт входили: наводчик младший сержант Г. Гуськов, замковый младший сержант С.Симаков, установщик красноармеец А. Гордеев.

В составе 50-й армии оборонял город Тулу, когда враг стремился во что бы то ни стало захватить город на Упе. Разгромив на подступах к городу фашистские полчища, они погнали непрошенных гостей на запад. Со своим расчётом Дементьеву не раз приходилось громить огневые точки и технику противника.

В 1942 году вступил в члены КПСС. В частях 2-ого Белорусского фронта старший сержант Дементьев отличился в бою за важный узел шоссейных дорог, у деревни Самохваличи Минского района Минской области летом 1944 года. Приказ командования – держать позицию до последнего снаряда. Бой начался с артиллерийского обстрела врага. Дементьевцы стреляли по врагу осколочными снарядами, картечью. Сам старший сержант работал с утроенной энергией. Вскоре гитлеровцы поняли, что перед ними всего одна пушка. Иван Андреевич лично истребил 20 солдат и офицеров врага. Раненым не покинул поле боя, руководя расчётом орудия.

26 октября 1944 года Дементьеву присвоено звание Героя Советского Союза «за образцовое выполнение боевых заданий Командования на фронте борьбы с немецкими захватчиками и проявленные при этом отвагу и геройство». Приказ подписали Председатель Президиума Верховного Совета СССР М. Калинин и Секретарь Президиума Верховного Совета СССР А. Горкин. Путь к победе был нелёгок. Трижды Иван Андреевич по ранению находился в госпиталях. И каждый раз, как только здоровье шло на поправку, он возвращался в строй. Войну Дементьев окончил в Берлине.

В послевоенные годы жил в Туле, работал начальником цеха на Комбайновом заводе. Создавал сельскохозяйственную технику для восстановления разрушенного фашистами хозяйства.

Скончался 15 октября 1964 года. Награждён Орденом Ленина, Красной Звезды, медалями. Его именем названа улица в Пролетарском районе, установлена мемориальная доска на этой улице, дом 25.

Похоронен на Чулковском кладбище города Тулы.