Žydų muziejus – kaip žydų kultūrą ir tradicijas puoselėjanti institucija – Lietuvoje turi senas tradicijas. Pirmasis žydų muziejus įkurtas Žydų senovės mėgėjų draugijos pastangomis 1913 m. Vilniuje. Tačiau ir draugija, ir muziejus veikė trumpai – iki Pirmojo pasaulinio karo. 1919 m. žymaus žydų rašytojo Š. An-skio (Šolomo Zainvilo Rapoporto) pastangomis draugija buvo atgaivinta ir pavadinta Lietuvos ir Baltarusijos žydų istorijos ir etnografijos draugija. Atkurtas ir žydų muziejus. 1920 m. Vilniaus žydų muziejus pavadinamas Š. An-skio vardu (po mirties). Lenkijai užėmus Vilniaus kraštą, Žydų istorijos ir etnografijos draugija veikė Kaune.

Ji 1931 m. ir Lietuvos laikinojoje sostinėje įsteigė tokio pat pobūdžio žydų muziejų. Prieš Antrąjį pasaulinį karą čia buvo per 3000 eksponatų, 6000 knygų ir kitų vertybių: laiškų, memuarų, istorinių žydų bendruomenės metraščių –  pinkasim, per šimtą tūkstančių dokumentų, nuotraukų, laikraščių komplektų ir t.t.

Vertingiausiais istoriniais dokumentais laikytini trijų Lenkijos ir Lietuvos karalių patvirtintų privilegijų žydams originalai (pergamentai). Lietuvą prijungus prie Sovietų Sąjungos, 1940 m. muziejus buvo perduotas Liaudies švietimo komisariatui, o 1941 m. gegužės mėnesį – LTSR Mokslų Akademijai.

Kitas žydų muziejus Vilniuje įkurtas 1925 metais. Vilniuje įkurtame Žydų mokslo institute (JIVO) pradėjo veikti Teatro muziejus, vadovaujamas dailininkės Umos Olkienickos. Šio muziejaus rinkinių pagrindą sudarė mirusios žinomos aktorės Ester-Rochl Kaminskos asmeninis archyvas. JIVO bendradarbiai rinko medžiagą ir planavo steigti pedagoginį, dailės ir etnografijos, sporto, jidiš literatūros muziejus.

1940 m. atėjus Sovietų valdžiai daug žydų organizacijų likviduota. Sustabdyta žydų bendruomenės veikla, uždaryti laikraščiai ir žurnalai, institucijos, vartojančios hebrajų kalbą. JIVO institutas, Š. An-skio muziejus, Kauno istorijos ir etnografijos muziejus buvo perduoti Liaudies švietimo komisariato globai. Nepaisant represijų (dalies darbuotojų ir vadovų areštų ir pašalinimo iš darbo, priverstinio veiklos perorientavimo ir t.t.), šios institucijos, nors ir griežtai kontroliuojamos bei ribojamos, tęsė kūrybinį darbą. Prieš pat karą 1941 m. JIVO institutas dar spėjo surengti didelę parodą, skirtą 1915 m. mirusio žydų rašytojo Icchoko-Leibušo Pereco devyniasdešimties gimimo metinių jubiliejui.

Net ir prasidėjus karui, šis istorinis bei kultūrinis darbas nesustojo. Žydų inteligentija gete mąstė apie tautos kultūrinio ir istorinio paveldo išsaugojimą. Geto kaliniai sunkiomis sąlygomis buvo raginami saugoti kultūrines ir istorines vertybes, joms kaupti ir saugoti įsteigtas muziejus. Renkami to meto dokumentai – vokiečių ir lietuvių valdžios žydus liečiantys įsakymai, įvairiausių įvykių, ypač žudynių, liudytojų pasakojimai ir pan. 1941 m. rugsėjo mėnesį naciai Vilniuje ir Kaune įsteigė Alfredo Rosenbergo štabo padalinius. Šis padalinys „tvarkė“, t. y. grobstė Lietuvos žydų meno ir kultūros vertybes, sunaikino didžiąją žydų kultūros palikimo dalį. Buvo nusiaubtos JIVO instituto, Strašuno ir Balošerio bibliotekos, Š. An-skio muziejus, Kauno istorijos ir etnografijos draugijos eksponatai. Vilniaus geto kalinių brigada („dvidešimtukas“),  buvo verčiama talkininkauti Rosenbergo štabui. Šis dvidešimtukas ėmė gelbėti eksponatus. Šioje brigadoje dirbo Abromas Suckeveris ir Šmerelis Kačerginskis – būsimieji pokarinio Vilniaus žydų muziejaus steigėjai. Eksponatus padėjo gelbėti ir lietuvių inteligentai – Vilniaus universiteto docentė M. Abramovič, Vilniaus universiteto bibliotekininkė Ona Šimaitė, rašytojas Kazys Boruta ir kt. Gete žmonės įrengė specialias slėptuves išgelbėtiems eksponatams.

1944 m., dar nesibaigus Antrajam pasauliniam karui, išvijus iš Vilniaus nacius, buvo atkurtas vienintelis visoje Sovietų Sąjungoje Žydų muziejus. Jame jau 1944 m. vasarą ėmė dirbti į Vilnių grįžę žydai. Nors valdžia nesuprato jų poreikio turėti savo muziejų, rugpjūčio pabaigoje leido prie Švietimo ministerijos sukurti Medžiagos rinkimo komitetą. Ir tiktai 1944 m. pabaigoje prie LTSR Kultūros ministerijos pradėjo veikti Žydų muziejus. Direktoriumi buvo paskirtas rašytojas Šmerjahu Kačerginskis. Jo butas ir tapo pirmąja muziejaus rezidavimo vieta. Muziejaus veikla nebuvo būdinga tokio pobūdžio institucijai. Jame ne tik renkamas ir saugomas žydų kultūros paveldas, bet ir grįžusių žydų adresai. Į muziejų ėjo ištisi laiškų srautai iš Sovietų Sąjungos ir įvairiausių pasaulio šalių. Žmonės teiravosi apie savo giminaičius ir pažįstamus, kurių didžioji dalis žuvo Antrojo pasaulinio karo metu. Muziejus tapo Vilniaus žydijos dvasiniu ir kultūriniu centru. Jame buvo diskutuojama visais žydams aktualiais klausimais, jo vadovybė kreipdavosi į aukščiausius valdžios organus kaip žydų atstovė. Muziejus įsikūrė Strašuno g. 6 (dabar Žemaitijos), kuriame iki karo buvo biblioteka, o karo metu – biblioteka ir geto kalėjimas. Būtent čia iš įvairiausių slėptuvių imta nešti išsaugotus kultūros lobius. Šis pokarinis Lietuvos žydų muziejus kaip kultūros centras pasirinko kelias veiklos kryptis: kaupė išlikusį žydiškos kultūros paveldą plačiąja prasme, rinko istorinę medžiagą ir rengė parodas; rūpinosi masinių žydų kapaviečių ir kitų šiai tautai reikšmingų istorinių bei kultūrinių vietovių įamžinimu.

Iš skirtingų Vilniaus vietų muziejaus darbuotojai ir kiti entuziastai tempė arba vežimais vežė vokiečių nesunaikintą Lietuvos žydų palikimą. Tai buvo įvairiausios knygos, rankraščiai, laikraščių ir žurnalų komplektai, organizacijų, draugijų, JIVO, Vilniaus bendruomenės archyvai, ritualiniai reikmenys. Surinkti 47 įvairių skulptorių darbai, Manes Kaco, Makso Bando, Fefermano ir Mergošilskio paveikslų kolekcija. Nepaisant ką tik praūžusio karo, didžiulės Lietuvos žydų bendruomenės netekties, nemažai paslėptos medžiagos, ypač archyvinės, dar galima buvo aptikti rūsiuose, palėpėse, transporto mazgų patalpose, tačiau trūko fizinių jėgų atgabenti visa tai į muziejų. Sovietinių valdžios organų požiūris į šią neįkainojamą žydų istorijos ir kultūros medžiagą buvo atsainus, ji buvo pasmerkta sunaikinti ir dažnai tapdavo makulatūros perdirbimo fabrikų žaliava.

Pirmoji muziejaus paroda atspindėjo tuo metu aktualiausią žydams klausimą ir buvo pavadinta „Žiaurus Lietuvos žydų naikinimas vokiečių okupacijos metu“. Vėliau įrengtos ekspozicijos, skirtos Vilniaus ir Kauno getams, Paneriams, žydų literatūros klasikui Šolom Aleichemui.

Lietuvos TSR Ministrų Taryba 1949 m. birželio 10 d. nutarimu reorganizavo, o iš tiesų – likvidavo Vilniaus žydų muziejų. Jis tapo Vilniaus kraštotyros muziejumi. Visas sukauptas žydiškas palikimas išdalintas įvairioms įstaigoms: „kraštotyrinė medžiaga - Vilniaus kraštotyros muziejui; eksponatai, turintys revoliucinę reikšmę, - Valstybiniam istorijos-revoliucijos muziejui; eksponatai, turintys meninę vertę, - Meno reikalų valdybai;  knygos – Lietuvos TSR Knygų rūmams; visą kitą inventorių perduoti Vilniaus bibliotekiniam technikumui“; archyvinė medžiaga buvo perduota Lietuvos Centriniam Valstybės archyvui. Muziejaus pastatas perduotas Kultūros ir švietimo įstaigų komitetui. Naujasis Vilniaus kraštotyros muziejus visiškai netenkino Lietuvos žydų poreikių, o jo rengiamos parodos („Vilniaus miesto pramonės laimėjimai pokariniame stalininiame penkmetyje“; „Vilniaus miesto kultūros palikimas pokariniame laikotarpyje“) neturėjo nieko bendro su šia tautine mažuma.

1989 m. rugsėjo 6 d. LR Vyriausybės potvarkiu Nr. 177p po beveik penkiasdešimties metų Vilniuje buvo atkurtas Žydų muziejus. Pagrindinis tikslas – prikelti iš užmaršties Lietuvos žydų istoriją bei kultūrą, atskleisti tautos tragediją Antrojo pasaulinio karo metais. 1991 m. vasario 13 d. LR Vyriausybės potvarkiu Nr. 56p daugelis eksponatų grąžinti į ką tik atkurtą Lietuvos Valstybinį žydų muziejų. Tais pačiais metais Kauno M. K. Čiurlionio dailės muziejus padovanojo išlikusius Kauno žydų istorijos ir etnografijos draugijos eksponatus. Šie eksponatai ir sudarė muziejaus rinkinių pagrindą. 1997 m., minint Vilniaus Gaono 200-ąsias mirties metines, muziejus buvo pavadintas Valstybiniu Vilniaus Gaono žydų muziejumi.