Иван Гарелов е роден на 6 февруари 1943 г. в с. Смилец, област Пазарджик. Една случка в живота му го насочва към избраната професия – да стане журналист. Решава го още когато е на 14 години. Бил в Пазарджик и чакал на опашка да се качи в рейса. Шофьорът ги държал на дъжда и не ги пускал вътре. Възмутен, след случката той написал дописка и я пратил на пловдивския вестник „Отечествен глас“. Вестникът не само я публикувал, но му й платили за това. Решението дошло само и никога не съжалявал за своя избор.
Въпреки че родителите му били против да учи журналистика, той не се отказва. Завършва Софийския университет „Св. Климент Охридски“, специалност „Журналистика“. Още когато е във втори курс на университета, започва да работи във вестник „Студентска трибуна“.
През 1964 г. взима първото си интервю с Лили Иванова. След като се дипломира започва работа във вестник „Народна младеж“.
В БТА започва работа през 1969 г. заради гръцкия език, който научава, след като завършва университета. Тогава отива за пет месеца в Гърция по линия на Комитета за културни връзки с чужбина. През 1972 г. публикува пътепис за Света гора в списание „Паралели“ на БТА. В агенцията работи до 1972 г. като редактор.
Марко Семов е човекът, поканил Иван Гарелов да работи в Българската телевизия през 1973 година за новосъздадената редакция „Публицистика“, след като прочита пътеписа му за Света гора.
Първото му телевизионно интервю е с президента на Кипър архиепископ Макариос. През 1974 г. прави първия си документален филм за Гърция „Гърция без пагони“ за падането на хунтата. Следват поредица от документални филми – за гражданската война в Ливан – „Идвам от Ливан“. В страната отива за първи път през 1976 г., без да е командирован. С оператора Иво Нешев заминават за Кипър, откъдето ги прекарват с лодка до Ливан. Снима също в Близкия изток, където взима присърце палестинската кауза.
Покрай военните си командировки Иван Гарелов се сдобива и със син – палестинеца Ахмед, когото Иван Гарелов снима в Ливан през 1979 г. Тогава Ахмед е 13-годишен. През 1982 г. съдбата отново ги среща в Бейрут по време на обсадата на града. Иван Гарелов го открива в квартал Бурж Барнже. Иван Гарелов го взима със себе си и тайно го прекарва през границата. Довежда го в България, където Ахмед завършва първо гимназия и след това медицина. Връща се в родината си Ливан през 1992 г. Седем години по-късно Иван Гарелов е в Ливан, където се среща с него, а той вече има три деца.
През 1979 г. прави документален филм за Камбоджа – „Къде сте доктор Тиенг Терпи“. Този филм се ползва в американски университети като помагало за драматургия на документален филм, изучава се и в Нов български университет. Може да напише томове за своите пътешествия и срещи по света – Китай, Танзания, Зимбабве, Мозамбик, Израел, Гърция. Автор е на повече от 30 документални филми от Ливан, Израел, Кипър, Гърция, Виетнам, Камбоджа, Афганистан.
Дългогодишен водещ е на предаването „Панорама“ по Българската национална телевизия. Наричан Мистър Панорама, Иван Гарелов започва да работи в предаването осем години след неговото начало. Първоначално е заместник-главен редактор и продуцент на предаването, а от декември 1979 до 2000 г. е постоянен водещ. От 11 септември 2000 г. до 14 септември 2001 г. е директор на „Новини и актуални предавания“ в „Нова телевизия“. От 2004 до 2007 г. е водещ на телевизионната игра „Вот на доверие“ по Би Ти Ви.
Иван Гарелов е обучил журналисти, сред които са Маргарита Михнева, Асен Агов, Райчо Райков, Иван Константинов, Веселина Патракиева, Бойко Василев, Елена Йончева, Валя Ахчиева, Емилия Иванова, Евгения Атанасова, Ива Петрони.
Председател е на управителния съвет на сдружението за награди за телевизионна журналистика „Свети Влас“, което през 2022 година присъжда наградите за 12-а поредна година.
В началото на 1986 година Иван Гарелов издава първите си две книги – „Идвам от Израел“ и „Атила срещу Афродита“. През 2013 г. представя първата си мемоарна книга „Недалеч и неотдавна“, написана по повод неговата 70-а годишнина. Книгата е разказ от първо лице за реални събития, които са станали част от световната политика. На 25 февруари 2016 г. Иван Гарелов представя книгата си „Тук и сега“, фокусирана върху предаването „Панорама“ и историята на журналиста, останал в паметта на зрителите с фразата си „Часът и мястото на срещата са известни“. През 2017 г. издава „Ще ни побъркат. Вторият живот на написаното“, в която събира своите най-значими статии и коментари, публикувани в българския печат от 1989 до края на 2016 г. През 2022 г. издава „Неизпратени писма до Маргарита“.
През 2008 г. Комисията по досиетата обявява, че между 1967 и 1969 г. Гарелов е работил в Първо управление на Държавна сигурност, а след 1970 г. е нещатен сътрудник на службите. Агентурният му псевдоним е бил „Талев“. Той е изпълнявал ролята на разузнавач от 1967 г., като през 1968 г. е минал курс за квалификация в СССР.