Inspirée par la musique tzigane et le klezmer, l'accordéoniste Mélanie Bergeron forme Gadji-Gadjo en 2002, appuyée par les musiciens Pierre-Olivier Dufresne (violon), Jean Desrochers (guitare), Mathieu Deschenaux (basse), Ivan Bamford (percussions), et plus tard, Pascal "Per" Veillette (harmonica). Offrant un mélange éclectique de jazz et de musique d'Europe de l'Est souvent rehaussé d'une touche de musique traditionnelle québécoise, le groupe se produit en Roumanie, en France et un peu partout en Amérique du Nord suite à la parution d'un premier album éponyme, en 2005. Sur le toit des voisins paraît deux ans plus tard et remporte le titre de « Meilleur album de musique du monde » lors du Gala de l'alternative musicale indépendante du Québec (GAMIQ) la même année.