Šmerelis (Šmerkė) Kačerginskis gimė Vilniuje 1908 m. spalio 28 d. Jo tėvai, darbininkai Volfas ir Altė, mirė iš bado pirmaisiais Pirmojo pasaulinio karo mėnesiais. Tuomet Šmereliui buvo 6-eri, o jo brolis Jankelis buvo dar mažesnis. Šmerelis mokėsi Vilniaus Talmud -Toiroje – religinėje mokykloje, gyveno pas senelius, našlaičių namuose 6-erius metus, dažnai badavo. Baigęs šią mokyklą, mokėsi litografijos mašinisto specialybės, tapo litografo pameistriu, o vakarais 3-ejus metus lankė Pereco vakarinę mokyklą suaugusiems. Nuo pat pirmųjų darbo metų įsitraukė į visuomeninę veiklą. 1929 m. išrinktas Vilniaus litografijos darbininkų sąjungos sekretoriumi. 1930–1931 m. kalinamas Lukiškių kalėjime už komunistinę veiklą. Čia Kačerginskis parašo keletą revoliucinių eilėraščių, kurie vėliau virto dainomis ir paplito po visą pasaulį.Į sambūrio Jung Vilne veiklą Kačerginskis įsitraukė 1934 m.
Prieš patekdamas į Vilniaus getą Kačerginskis dėl savo politinių pažiūrų ir veiklos buvo priverstas bėgti iš Vilniaus, tapusio Lietuvos sostine, kurį laiką gyveno Balstogėje. 1940 m. sovietų valdžiai vėl įsigalėjus Vilniuje Kačerginskis sugrįžo į gimtąjį miestą. Rašytojas buvo įsitikinęs, kad sovietų valdžia toleruos sekuliariąją žydų kultūrą. Tikrovė pasirodė kitokia: daug žydų veikėjų buvo deportuota kaip kapitalistai ir reakcionieriai. Tačiau 1941 m. Vilniaus žydus ištiko kita Katastrofa – totalinis visos tautos naikinimas. Kačerginskiui pavyko Katastrofą išgyventi. Kačerginskis išgyveno dalyvaudamas Vilniaus geto pasipriešinimo organizacijos veikloje, pabėgęs iš geto pas partizanus ir iki galo kovęsis, kol Vilniuje neliko nacių armijos. Be to, jam drauge su Suckeveriu, taip pat kalėjusiam Vilniaus gete, teko sudėtinga misija išgelbėti kuo daugiau žydų kultūrinio palikimo. Mat 1942 m. Rosenbergas, oficialios nacių komisijos, vykdžiusios žydų kultūros paminklų konfiskavimo politiką, reprezentantas Vilniaus gete subūrė žydų inteligentų, gebančių įvertinti savo kultūros lobius, mokančių jidiš ir hebrajų kalbas, grupę. Į šią grupę, be kitų, buvo įtraukti Avromas Suckeveris, Šmerelis Kačerginskis, mokytoja Rachelė Pupko-Krinski. Grupę geto žargonu vadino „Popierine brigada“, mat šių žmonių užduotis buvo atrinkti vertingiausius žydų kultūros paminklus (raštijos, dailės kūrinius, ritualinius reikmenis ir kt.), kad vėliau jie būtų išvežti į Vokietiją. Kačerginskis su Suckeveriu juos atrinkdavo, bet stengėsi visa, kas vertingiausia, rizikuodami savo ir kitų gyvybėmis, slėpti. Nemaža jų buvo užkasta. Ir kai abu Jung Vilne rašytojai po karo Vilniuje pagaliau padėjo automatus, ėmėsi organizuoti šių vertybių sisteminimą vienoje vietoje. Šitaip atsirado Žydų muziejus.
Kai Sovietų Lietuvoje sustiprėjo antisemitinės tendencijos, Kačerginskis išvyko į Lenkiją, iš pradžių į Lodzę. Čia susitiko būsimą antrąją savo žmoną (pirmoji, Barbara Kaufman, žuvo per Katastrofą) Meri Šutan, gimusią Švenčionyse. Čia toliau tęsė Katastrofos įamžinimo
darbą,įsitraukė į sionistų veiklą. Tačiau įvykiai Kelcuose (pogromai) 1946 m. liepą paskatino rašytoją emigruoti į Paryžių. 1947 m. kovą gimė jo vienintelis vaikas – duktė Libelė. 1950 m. Kačerginskis apsilankė Izraelyje, tais pačiais metais apsigyveno su šeima Pietų Amerikoje – Argentinoje, Buenos Airėse. Mat čia buvo parankiau gyventi: Buenos Airėse buvo Žydų kultūros kongreso, kurio darbe Kačerginskis dalyvavo, skyrius. 1954 m. balandžio 23 d. Kačerginskis žuvo lėktuvo katastrofoje skrisdamas iš Mendozos į Buenos Aires.