Образование получил в Кенигсбергском, Галльском и Лейпцигском университетах. 1 января 1759 г. поступил на действительную службу инженер-прапорщиком. В 1768-1774 гг. и в 1789-1791 гг. полковник И.В. Гудович храбро сражался в боях с турецкой армией, что неизменно сказывалось на его воинском статусе. 16 марта 1770 г. за поражение неприятеля при Рачевском лесу он был произведен в бригадиры, 4 декабря 1770 г. за разбитие неприятельского корпуса под Букарешгами - в генерал-майоры, 12 ноября 1790 г. за взятие турецкой крепости Кисим - в генералы от инфантерии. Отмечен многими орденами.

В 1800 г. император Павел I отправил его в отставку с должности Каменец-Подольского военного губернатора. 2 июня 1806 г. императором Александром I возвращен на службу главнокомандующим войсками Кавказской линии в Грузии.

Как и его предшественники, И.В. Гудович занимал ряд высоких административных должностей. В 1799 г. командовал армией, назначенной на рейс против французов . В 1807 г. произведен в фельдмаршалы. В 1809 г. назначен в члены Государственного совета.

И.В. Гудович продолжил работу по нивелированию города. В 1810 г. был составлен новый план Москвы с обозначением границ каждой части, квартала и владения. В том же году открылся Странноприимный дом - крупнейшее благотворительное учреждение, устроенное за Земляным валом у Сухаревских ворот на средства графа Н.П. Шереметева. Московский главнокомандующий по долгу службы уделял внимание состоянию медицинской части , поддерживал разумные предложения по регулированию продажи лекарств, оказанию необходимой врачебной помощи населению. Медицинская контора приобрела статус ведущего органа надзора за народным здравием .

И.В. Гудович подал в отставку по состоянию здоровья. Последние годы жизни провел в имении Чечельник Подольской губернии. По завещанию похоронен в киевском Софийском соборе.