James Carter a 11 ans lorsqu'il s'intéresse au saxophone - il maîtrisera l'alto, le soprano, le ténor et le baryton, et apprendra aussi la clarinette. Le jeune prodige ne met pas de temps à se faire connaître de ses pairs : à 17 ans, il tourne avec Wynton Marsalis. À 19 ans, il se greffe à l'orchestre de Lester Bowie. Sa carrière discographique démarre en trombe avec le disque JC on the Set (1993). Touche-à-tout, Carter refuse de se cantonner à un style. Son CV comprend notamment un coup de chapeau à Django Reinhardt (Chasin' the Gypsy, 2000), un clin d'œil au groupe rock Pavement (Gold Sounds, 2005) et une incursion en territoire classique (Carribean Rhapsody, 2011). Il enregistre aussi avec son Organ Trio, qui lance At the Crossroads en 2011.