Городская библиотека №2 была открыта в 1967 году в одном из исторически знаменитом микрорайоне города Валуйки - Казацкое (ранее - слобода Казацкое). По свидетельству историков-краеведов, именно в этом месте издревле селились казаки, оборонявшие город от неприятелей.