De nombreux gouvernements et des sociétés médiévales limités musiciens juifs à des instruments spécifiques (flûtes et instruments à cordes parmi les plus importants), et de la musique elle-même était l'une des rares professions peuple juif ont été autorisés à pratiquer. Ainsi, chaque grande ville européenne possédait hautement qualifiés, des bandes juives professionnels. Ces bandes, avec Rom (tzigane) bandes, se sont rendus dans le but de gagner leur vie.
Forcés de quitter l'Espagne, le Portugal et l'Europe centrale (Allemagne en particulier), 17e siècle Juifs se sont retrouvés relocalisés à l'Empire ottoman dans le règlement de Pale. Là, les musiciens étrangers voyageant sur les routes commerciales injectés musique juive avec des influences turques, grecques, arméniennes et du Moyen-Orient, en contribuant à la formation de début Klezmer. Il a été caractérisé par: 1) un niveau extrêmement élevé de musicalité; 2) l'instrumentation unique, 3) polyrythmies du Moyen-Orient.
Initialement limitée à la clarinette et instruments silencieux violon, musiciens Klezmer habilement exploré leurs capacités musicales, le développement d'une profondeur émotionnelle et d'expression calquée sur la voix chantée humaine (une caractéristique importante encore inhérent à Klezmer aujourd'hui).
Avec la tradition du 18e siècle hassidique (culte par l'émotion accrue) et la libération des Juifs servant dans l'armée tsariste apportant des instruments plus militaristes, (trompettes, trombones, concert piège ou "petits" tambours ["tshekal"], tambours de basse montés ["puk" aka "põik" ou "Baraban"], cymbales ["tatouages"], des tambourins, des planches de bois, cloches de vaches et d'autres effets de percussion) les sons de Klezmer moderne ont commencé à émerger.
Lorsque les gouvernements européens du 19ème siècle encore imposé encore plus de difficultés sur le règlement de Pale, l'émigration vers les États-Unis est devenu le choix logique pour une grande partie de la population juive. Pendant les années 1880-1924, l'immigration juive en Amérique (spécialement de New York) a dépassé plus de deux millions de personnes, ce qu