Центральная городская библиотека им. Л. Толстого была открыта в ноябре 1896 г. В 1928 г. в связи со 100-летием со дня рождения Л. Н. Толстого ей было присвоено его имя.

В годы войны 1941–1945 гг. библиотекари трудились без выходных и отпусков: помогали раненым в эвакогоспиталях, проводили громкие читки, беседы, организовывали коллективное прослушивание передач.

В 70-е гг. увеличился книжный фонд, библиотека значительно выросла. Она неоднократно являлась дипломантом всесоюзных конкурсов: в 1967 г. была награждена дипломом «Лучшая библиотека РСФСР», в 1969 г. ей было присвоено звание библиотеки отличной работы.

В 1996 г. библиотека отметила свой вековой юбилей.

В 2020 г. в рамках национального проекта «Культура» ЦГБ стала библиотекой нового поколения (модельной). В настоящее время она оборудована современной техникой: 36 компьютеров (из них 11 для читателей, в т. ч. 1 для лиц с нарушением зрения), МФУ, 8 принтеров, 6 сканеров, 5 телевизоров, игровая приставка, мультстанок, графический планшет, музыкальная аппаратура, цифровое пианино, ламинатор, брошюровщик, 2 видеокамеры и фотоаппарат, швейная машина, оверлок.

Библиотека состоит из отделов: «Площадь трех дорог» (холл), «Литературный квартал», технопарк, детский городок, кафе «У дороги», арт-остановка, «Мосты» (центр краеведения), бизнес-центр, книжный развал, служебная зона.

В штате 16 специалистов. Сотрудники принимают участие в международных, всероссийских и областных форумах, семинарах, мастер-классах и вебинарах. С 2019 г. 11 сотрудников прошли повышение квалификации в рамках проекта «Творческие люди».

В мае 2022 г. ЦГБ была награждена премией правительства Оренбургской области «Признание» в номинации «Библиотека года».