Los Abuelos de la Nada arrancan en 1967 cuando Miguel Abuelo consigue una oportunidad para grabar aun sin tener la banda formada. De esta forma se ve obligado a inventar rápidamente un nombre y recordando una frase del libro "El banquete de Severo Arcangelo" de Leopoldo Merechal, que dice "Padre de los piojos, Abuelo de la nada" bautiza la banda entes de su nacimiento real.

Dos meses después la banda ya estaba formada y graban su primer simple. Aun antes de la salida a la venta del disco ya efectúan su primer cambio de integrantes, ingresa Pappo Napolitano en lugar de Claudio Gabis, luego de ello intervienen en varios festivales (Pinap, Beat Baires y el Primer Festival de Rock Progresivo).

El grupo tiene su primer separación al partir Miguel Abuelo a radicarse en Europa en 1971.

Con el regreso de Miguel Abuelo a Argentina en 1981 y con nuevos integrantes el grupo toma forma nuevamente.

1982 no seria un año mas para los Abuelos, con la producción de Charly García logran grabar y editar su primer LP, que presentan el 22 y 23 de octubre en el teatro Coliseo. En noviembre se presentan en el festival BaRock.

El disco se convierte en un éxito y las canciones "No te enamores nunca de aquel Marinero Bengalí", "Sin gamulán" y "Tristeza de la ciudad" sonaban en todas las radios del país. El 25 de diciembre de 1982 Charly García se presenta en Ferro y "Los Abuelos" son una de sus bandas soporte.

Durante todo 1983 la banda transita distintos escenarios del país y antes de fin de año editan Vasos y Besos que presentan en el estadio Velez, tras este recital abandona la banda Daniel Melingo y se incorpora Alfredo Desiatta.
El segundo trabajo discográfico traería clásicos como "No se desesperen", "Mil horas" y Chalaman" que rápidamente lo posicionan el disco como el mas vendido.

Aprovechando el éxito, la banda realiza en mayo de 1984 tres shows en el estadio Luna Park, para luego partir a Ibiza y comenzar a grabar su tercer disco. Durante la grabación de esta placa, se comienzan a presentar diferencias entre Abuelo y Calamaro, aun así el disco se termina y posee joyas como "Himno de mi corazón" y "Lunes por la madrugada". El disco es presentado en el teatro Coliseo y tras ello Bazterrica se aleja de la banda en su lugar se incorpora Gringhi Herrera.

Solistas de Abuelo y Calamaro mediante, Los Abuelos graban un disco en vivo en el Teatro Opera que recoge parte del caudal energético y anímico que la banda desplegaba sobre el escenario, luego de ello el grupo se separa temporalmente.

A mediados de 1985 Miguel Abuelo decide continuar con la banda sin Calamaro, en octubre se presentan en vivo en el Festival de la Fm Rock & Pop en Vélez. Durante este recital Abuelo es herido por el golpe de un botella que impacta en su mejilla y comienza a sangrar, a pesar de esto Miguel continua y culmina el show.

1986 trae nuevos integrantes a la banda: Kubero Díaz en guitarras, Chocolate Fogo en bajo y Juan Del Barrio en teclados. Con esta formación el grupo edita "Cosas mías".

1987 los encuentra presentando su nuevo disco por gran parte del país, ya sin Polo Corbella que es reemplazado por Pato Loza y Alfredo Desiatta reemplazado por Willy Crook. Con esta formación emprenden una gira por Latinoamérica.

El grupo culmina abruptamente al morir Miguel Abuelo el 26 de marzo de 1988.

Quizás lo mas extraño de "Los Abuelos" sea que aun hoy, siguen vendiendo gran cantidad de discos, incluso más que cuando el grupo se encontraba en plena actividad.

Por las formaciones de "Los Abuelos" pasaron varios músicos en forma fugaz como: Willy Crook, Jorge Palanuer, Miguel Cantilo y Jorge Pinchevsky.