Licenciado en Xornalismo pola Universidade de Navarra, iniciou a súa carreira no mundo da radio con 21 anos; en 1963 en Radio Popular (COPE) en San Sebastián, da que foi director con 27 anos, e en 1969 pasou a dirixir Radio San Sebastián da SER. Dous anos máis tarde, era nomeado director da Cadea SER en Sevilla, o que o levou ao posto de director de informativos. En 1978 incorporouse aos servizos informativos da Cadea SER en Madrid para dirixir Hora 25 e en 1980 foi nomeado director dos Servizos Informativos da Cadea SER.

Pouco despois foi nomeado director de informativos de TVE, coincidindo o seu recentemente estreado cargo co golpe de estado coñecido como o 23-F, na investidura de Calvo Sotelo, unha situación excepcional que forzou a súa primeira aparición ante as cámaras de televisión e obrigouno a asumir a responsabilidade de presentar durante un mes o Telediario da noite, nunhas difíciles circunstancias. As tensións políticas e a debilidade do Goberno de Calvo Sotelo obrigaron á súa saída de TVE e a do director xeral. Tras o seu paso pola televisión pública foi director xeneral de Radio Televisión 16.

Abandonou en 1983 o seu cargo en Radio 16 para retornar á SER, onde sucesivamente sería director e presentador dos programas radiofónicos Aquí la SER, Matinal SER, Pido la Palabra e Onda Media.

O 22 de setembro de 1986, fíxose co que el considera o programa da súa vida: Hoy por hoy, que chegou a ser o programa de máis audiencia de toda a historia da radio española. Pero a radio non impediu que, mentres, fixese algunhas aparicións en TV: En familia (TVE, 1987 a 1989), Iñaki, los jueves (1990) nas cadeas autonómicas, Gente de primera (1993) en TVE ou Entrevista con; e en 1996 fixo as entrevistas en Telecinco do informativo de Luis Mariñas.

Baixo a súa dirección, Hoy por hoy converteuse nunha referencia da radio española, batendo todas as marcas de audiencia. Durante os primeiros anos, o programa de Iñaki Gabilondo na Cadea SER mantivo un intenso duelo polo liderado da radio co espazo Protagonistas de Luis del Olmo, así como, posteriormente, con La Mañana, de Antonio Herrero, Luis Herrero e Federico Jiménez Losantos. Con todo, desde a terceira onda do EGM en 1995, Hoy por hoy é o programa máis escoitado da radio en España. Así o constatou o Estudo Xeral de Medios durante 30 ondas de audiencia consecutivas.

Ademais de todo o anterior, cada vez que se celebraban eleccións en España, facíase cargo dun especial sobre o acontecemento. É presentador cada ano da gala dos Premios Ondas, xunto a Gemma Nierga.

Gabilondo entrevistou a todos os presidentes do goberno; líderes políticos de todos os partidos; personalidades internacionais, escritores, investigadores, actores, directores de cinema, cantantes e todos os protagonistas da actualidade.

O 30 de agosto de 2005 a Cadea SER anunciou que Iñaki Gabilondo deixaba a dirección de Hoy por hoy para ser o presentador das informativo Noticias Cuatro da nova canle xeneralista española, Cuatro. O primeiro día tivo un 15,1% de audiencia, e posteriormente baixou situándose nunha media do 5,7%.2 En 2006, compartiu ademais a presentación do programa Cuatro x Cuatro con Àngels Barceló, Carles Francino e Jon Sistiaga, mantendo o cuarto lugar na clasificación de audiencias de entre os informativos en prime time das cadeas de televisión xeneralistas españolas. Tras a compra de Cuatro por parte de Gestevisión Telecinco, o xornalista abandonou a presentación e dirección de Noticias Cuatro o 21 de xaneiro de 2010. Tras deixar Cuatro, Iñaki Gabilondo presentou desde o 8 de febreiro até o 23 de decembro de 2010 o magacín informativo nocturno Hoy na canle de información continua CNN+, ata que Prisa decide pechar a canle pola súa pouca viabilidade económica. Pouco despois publicou o libro El fin de una época.

Desde 2011, participa en diario El País e na Cadea SER co videoblog La voz de Iñaki, no que o xornalista dá a súa opinión sobre as noticias actuais. En maio dese mesmo ano púxose á fronte do programa mensual Iñaki na canle de pagamento Canal +.

En 2012 obtén o Premio Tomás y Valiente polo seu compromiso coa democracia e polas liberdades fundamentais. Ese mesmo ano ponse á fronte da serie documental Transición y democracia en Euskadi para a ETB 2.