Ayant grandi dans la ville industrielle de Waterbury (« The Brass City »), Pavone semblait déterminé dans sa jeunesse à rejoindre ses rangs, obtenant un diplôme en ingénierie de l’Université du Connecticut.
Cependant, assister aux funérailles de John Coltrane à l’âge de 26 ans s’est avéré être une expérience qui a changé sa vie et qui a valu au jazz sa dévotion de toujours. En quelques mois, il avait rejoint le groupe du pianiste Paul Bley et était en tournée aux États-Unis et en Europe.