Prieš Antrąjį pasaulinį karą Strašūno g. 6 (dabar Žemaitijos g. 4) name veikė Vilniaus miesto žydų biblioteka hebrajišku pavadinimu „Meficei haskala“ (liet. „Švietimo skleidėjų“). 1940 m. pirmosios sovietinės okupacijos metu biblioteka buvo nacionalizuota, o 1941 m. pavasarį reorganizuota į biblioteką nr. 5. Iki Vilniaus geto įkūrimo čia veikė pirmasis Judenratas, o bibliotekai patekus į Didžiojo Vilniaus geto teritoriją, ji veikė beveik iki pat geto likvidavimo 1943 m. rugsėjį. Geto bibliotekai vadovavo pabėgėlis iš Varšuvos, bibliografas Hermanas Krukas. Čia jis įkūrė statistikos tarnybą, geto archyvą bei muziejų, kuriems pas vadovavo; rašė geto dienoraštį, šiandien žinomą kaip „Paskutinės Lietuvos Jeruzalės dienos“.

Bibliotekos pastate buvo įsteigtas ir vadinamasis Geto universitetas. Literatų ir menininkų sąjungos, Istorijos draugijos ir kitų kultūrinių organizacijų renginiai dažnai vykdavo Vilniaus geto bibliotekos salėje. Pati biblioteka dėl aktyvios kultūrinės veiklos dažnai būdavo vadinama Kultūros centru. Pastate veikė pirtis, kuriai vadovo Vilniaus geto pasipriešinimo organizacijos lyderis Icikas Vitenbergas. Čia pasipriešinimo organizacijos nariai slėpė ginklus ir mokėsi juos naudoti, o bibliotekos skaitykloje slapčia svarstė tolimesnių veiksmų planą – sukilti gete ar trauktis pas partizanus. Bibliotekos kieme buvo geto sporto aikštelė, priešais ją – geto kalėjimas. Holokaustą išgyvenę žydai, vadovaujami rašytojų Šmerkės Kačerginskio ir Abramo Suckeverio, šiame pastate 1945 m. įkūrė Žydų muziejų, sovietinės valdžios uždarytą 1949 m. Sovietinės okupacijos metais buvusios geto bibliotekos pastate veikė Bibliotekininkystės technikumas, vėliau Vilniaus J. Tallat-Kelpšos aukštesnioji muzikos mokykla (nuo 2004 m. pervadinta konservatorija).