Empezó su carrera como entrenador dirigiendo a Defensores de Belgrano, luego paso por Sportivo Italiano.

Sus buenos rendimientos en aquellos equipos hicieron que asuma la dirección técnica de Estudiantes, club que salvó del descenso en la temporada 1996/97 de la Primera B Nacional.

Dirigió a Temperley en 1997 siendo esta la peor campaña en la historia de dicho club, que no solo no pudo evitar el descenso, sino que mantuvo conflictos legales/económicos con el entrenador.

En 2005 dirigió al Tigre bicampeón de la Primera B, realizando una campaña excepcional, con tan solo una derrota en 40 partidos, logrando no sólo el ascenso directo al Nacional B, si no que el equipo consiguió resultados favorables ante equipos y en escenarios que tradicionalmente eran esquivos para el club de Victoria, destacándose el doble triunfo en el clásico contra Platense, el primero en condición de visitante con vuelta olímpica incluida.

Gracias a su éxito con Tigre, junto con una recomendación de Diego Maradona, Caruso Lombardi tuvo la chance de dirigir en Primera División por primera vez, firmando con Argentinos Juniors. El equipo de La Paternal venía de jugar la Promoción seis meses antes y estaba necesitado de sumar puntos para asegurar su continuidad en la categoría. Tras tres torneos en los que Argentinos terminó siempre en la mitad superior de la tabla, Caruso Lombardi se alejó del club, aduciendo que lo hacía por motivos personales.

A mitad del siguiente campeonato, Caruso Lombardi firmó con Newell's Old Boys tras la renuncia de su antecesor, Pablo Marini, al caer derrotado justamente contra Argentinos por 4 a 0. El equipo de Rosario se encontraba en zona de descenso directo y recurrió a Caruso Lombardi debido a su efectividad con el Bicho. El equipo no sólo logró salvarse del descenso, sino también evitó jugar la Promoción en 2008.

Durante el Clausura 2009 recaló, una vez más, en un equipo comprometido con el descenso, Racing Club, que llevaba tres derrotas en igual cantidad de partidos hasta ese momento. Bajo la conducción de Caruso Lombardi, Racing sumó 30 puntos en 16 partidos, terminó el torneo quinto y se salvó de tener que disputar la promoción por segunda temporada consecutiva.

A fines de ese mismo año concretó su retorno a Tigre, donde reemplazó a Diego Cagna, para el Clausura 2010. En su regreso al Matador, dirigió al equipo a dos decimoprimeros puestos consecutivos.

En el Clausura 2011 fue contratado como entrenador por Quilmes, tras la renuncia de Leonardo Madelón. Caruso Lombardi, sin embargo, no logró hacer honor a su fama de "bombero del descenso", 11​ y Quilmes descendió a la Primera B Nacional al terminar la temporada último en la tabla de los promedios.

Con San Lorenzo logró evitar el descenso directo en la última fecha del torneo y alcanzar la Promoción contra Instituto. Con una victoria de visitante y un empate de local, San Lorenzo se aseguró la permanencia en Primera División. La delicada situación del club provocó la renuncia de la comisión directiva dirigida por Carlos Abdo y su reemplazo con una nueva dirección encabezada por Matías Lammens y Marcelo Tinelli.

El 17 de febrero de 2014 comienza su segundo ciclo al frente de Quilmes, reemplazando a Blas Armando Giunta, con el objetivo de salvar del descenso al Cervecero en la temporada 2013-2014, cosa que consigue a falta de una fecha para el final del torneo.

A mediados del año 2014, inició su etapa como entrenador de Tristán Suárez, volviendo a dirigir a un conjunto de la Primera B tras nueve años, siendo su última vez a Tigre en la temporada 2004/05. En mayo de 2015 arribó al banco de Arsenal de Sarandí en reemplazo de Martín Palermo.

A fines de septiembre de 2016, tras la sorpresiva renuncia de Eduardo Domínguez, asume en Huracán al día siguiente. Esta vez con una misión distinta, no salvarlo del descenso sino de motivar a un plantel desmoralizado, pero que hasta hace poco había disputado copas internacionales.

Según declaraciones del presidente Nadur, esta vez Caruso «tenía la oportunidad de demostrar sus cualidades sin el apremio sufrido en sus clubes anteriores», con todo un torneo largo por delante. Con solo tres entrenamientos realizados, dirigió su primer partido un día y medio después de su asunción, consiguiendo una victoria como visitante ante Atlético Tucumán por 2-0.

Su última participación fue dirigiendo San Martín de Tucumán al cula no pudo salvarlo del descenso al Nacional “B”.