Carroll interpretó varios papeles en aquel filme ganador de dos Óscar dirigido por Victor Fleming y protagonizado por Judy Garland, como uno de los miembros de "Munchkinland" que recibió al personaje de "Dorothy" y otro de los que la escoltó por el camino de baldosas amarillas que conducía a la ciudad Esmeralda.
Este actor, nacido el 8 de julio de 1919 en EE.UU., hijo de inmigrantes italianos, comenzó en el mundo del espectáculo cuando era un niño, antes incluso de sufrir el problema de desarrollo físico que, a los nueve años, le impidió seguir creciendo.
Lejos de abandonar su sueño artístico perseveró y con la ayuda de su hermano consiguió trabajo como cantante, bailarín y presentador de ceremonias en un teatro.
A los 18 años llegó a trabajar en espectáculos con la actriz Mae West y durante su juventud fue incluso maestro de ceremonias en clubes propiedad de Al Capone, según explica su página web.
Su papel en "The Wizard of Oz" le trajo la fama en EE.UU. y le permitió convertirse en animador previo a los discursos de las campañas electorales de los presidentes Frank D. Roosevelt y Harry Truman.
A mediados de la década de 1940 Carroll se estableció en San Louis, Missouri, en Estados Unidos, donde se dedicó a trabajar en el negocio familiar.
En 2007 fue homenajeado en Los Ángeles junto con otros seis "Munchkins" de "The Wizard of Oz" con una estrella en el Paseo de la Fama de Hollywood.