Haller, que dio a Alemania una ventaja de 1-0 en la final del Mundial 1966 --la cual cedió en los penaltis ante Inglaterra--, a lo largo de su carrera cosechó 33 victorias y anotó 13 goles para su país. También participó en los Mundiales de 1962 y 1970.
Perteneció a la primera generación de futbolistas alemanes que militó en ligas extranjeras. Durante 11 años estuvo en las filas de equipos italianos, logrando tres Ligas con Bolonia y Juventus. Haller volvería a su ciudad de origen, Ausburgo, en 1973 retirándose del fútbol seis años más tarde.