Dans sa jeunesse, Gary Peacock touche au piano et à la batterie. Il se met à la basse pendant son service militaire. De retour aux États-Unis en 1956, il se pose à Los Angeles et travaille avec Art Pepper, Barney Kessel, Paul Bley... En 1962, Peacock s'installe à New York. Il retrouve Bley, côtoie Bill Evans et Miles Davis, et fait la rencontre d'Albert Ayler. En 1969, le musicien part au Japon étudier la philosophie et la médecine. Il marque un autre temps d'arrêt dans les années 1970. Après des études en macrobiotique, le bassiste renoue avec la musique pour de bon. Il s'affirme en tant que soliste, lançant notamment Tales of Another (1977) appuyé par Keith Jarrett et Jack DeJohnette. Avec ces deux musiciens, Peacock forme le Standards Trio, au milieu des années 1980. En 2009, il enregistre Insight avec Marc Copland.