Berry asistió a la Escuela de Walden en Nueva York con Mike Diamond y, junto a Adam Yauch y Kate Schellenbach, formaron Beastie Boys en 1981. El grupo tocó por primera vez en el antiguo desván de Berry en la esquina de la calle 100 y Broadway en el Upper West Side de Manhattan, donde una pequeña multitud se reunió para escuchar a la banda.
Berry participó en el primer EP de Beastie Boys, que fue grabado en los estudios 171A en noviembre de 1982 y poco después abandonó el grupo, seguido de Schellenbach en 1983. Posteriormente, formó parte de otras bandas como Even Worse, Big Fat Love, Highway Stars y Bourbon Deluxe.