John Nemeth grandit au sein d'une famille sensible à la musique. Le chanteur et joueur d'harmonica découvre très jeune la collection de jazz manouche de son père et les cassettes rock 8-pistes de son frère. Adolescent, il se passionne pour le blues et, à 16 ans, monte déjà sur les planches dans sa ville natale de Boise, dans l'Idaho. En 2001, Nemeth assure la première partie de Junior Watson, avec qui il se lie d'amitié. L'année suivante, le musicien se joint au Junior Watson Band, tout en menant son propre groupe, The Jacks, avec lequel il lancera deux albums : The Jack of Harps (2002) et Come and Get It (2004). Après un déménagement à San Francisco en 2006, il signe chez Blind Pig Records et lance une série d'albums louangés, dont Love Me Tonight (2009) et Name the Day! (2010).