Забудова вулиці сформувалася в XVIII-XIX сторіччях. У 18 сторіччі називалася вулиця Згориста, у 19-му і на початку XX сторіччя — вулиця Воздвиженська. Сучасна назва на честь єврейського письменника Шолом Алейхема. До вулиці Шолома-Алейхема прилучаються: вулиці Млинова, Замкова, Кафедральна і Рильського.

Шолом-Алейхем невдало пробував поступити до Житомирського вчительського інституту. Він часто відвідував Житомирщину, і зокрема був у Житомирі. Житомирщина є місцем дії ряду творів, написаних протягом 1883—1894 років («Картини житомирської вулиці»).

До середини ХХ століття вулиця була досить жвавою, оскільки виходила на Воздвиженську площу, на якій знаходився найдавніший в місті Старий ринок. Жителі Подолу і Мальованки по цій вулиці піднімалися на Замкову гору на ринок.
Тепер на місці ринку скверик, а вулиця Шолом-Алейхема закинута і забута.

Двоповерховий будинок зліва на фотографії й одноповерховий в центрі внизу (в долині річки Рудавка) не збереглися. Справа вгорі - Подільський провулок (раніше називався вище - початок Подільської вулиці (тепер - Якіра). У центрі вгорі видно торець п'ятиповерхового будинку № 3 на вулиці Маяковського. Двоповерховий будинок на розі Подільського провулка і Подільської вулиці (правіше п'ятиповерхового) теж не зберігся.

Фото 1965 року. Автор Дубман Борис