Terry, que estaba ingresado en un asilo después de que le diagnosticasen diabetes, "se ha unido a la gran banda del cielo, donde estará cantando y tocando con los ángeles", dijo su mujer Gwen Terry en la página de facebook del músico. "Nos dejó estando en paz, rodeado de su familia, estudiantes y amigos", añadió.
Nacido en Saint Louis, Missouri, Terry llegó a la fama después de varios años sirviendo en la marina, tocando con Count Basie y Duke Ellington en los años cuarenta y cincuenta, antes de unirse a la The Tonight Show Band, en la que tocó junto al afamado líder de la banda, Doc Severinsen.