Tarihte bilinen ilk kütüphaneyi kuran medeniyet Asurlular'dır. Bilinen ilk kütüphane, M.Ö. 626 yılında Asur'da kurulmuştur.
Kütüphaneler eski çağlardan beri insanlığın hizmetindedir. Eldeki bilgilere göre ilk kütüphane, Asurlular zamanında kurulmuştur. Nivie’de İ.Ö. 626 tarihinde kurulan Asur Bani Pal kitaplığı ilk kütüphane sayılır. Daha sonra Ozymandias Teb’te dinsel yazılar için ayrı bir kitaplık daha kurulmuştur:bu kitaplığın 20.000′den çok papirus tomarı bulunduğu sanılmaktadır. Eski Yunan’da ilk kitaplık İ.Ö. 540 yılında Pisistratus’un Atina’da kurduğu kitaplıktır.Daha sonraları tapınaklara bitişik pek çok kitaplık kuruldu en önemlileri İskenderiye’de Musaion Anadolu’da Efes ve Bergama kitaplıklarıdır. İlk büyük Hıristiyan kitaplıkları Kayseri, Urfa, ve İstanbul’da kuruldular.