Юношеская библиотека имени Н. А. Некрасова является преемницей первой бесплатной народной библиотеки города Ярославля, основанной 17 октября 1899 года силами и на средства Общества содействия народному образованию.
Первым заведующим библиотекой был инспектор народных училищ С. Н. Садыков. С ноября 1900 года в течение четырех лет библиотеку возглавлял известный краевед П. А. Критский. В эти годы библиотека располагалась на Рождественской улице в Доходном доме просвещенного ярославского купца Н. П. Пастухова, который предложил народной библиотеке бесплатное помещение.
В начале 1901 года библиотеке было присвоено имя Н. А. Некрасова. Портрет поэта подарил библиотеке известный художник Д. Н. Кардовский.
В 1905 году библиотекой заведовала член партии эсеров С. Г. Хренкова. Среди читателей распространялись нелегальные издания брошюр, в помещении библиотеки проводились тайные собрания.
Долгие годы библиотека не имела собственного помещения. В 1914 году Наталья Павловна Некрасова (жена брата поэта Ф. А. Некрасова) внесла на строительство библиотечного дома 19 тысяч рублей с тем условием, чтобы это здание оставалось «в вечном пользовании библиотеки». Здание (сейчас улица Свободы, д. 73) было выстроено по проекту архитектора Г. В. Саренко. В течение 23 лет здесь располагалась Некрасовская библиотека. С 1941 года библиотека поменяла несколько адресов. С мая 1974 года она находится на улице Вольной, д. 3 (в Кировском районе города Ярославля).
В 1978 году библиотека стала юношеской, войдя в Централизованную библиотечную систему города Ярославля, сохранив имя Н. А. Некрасова.