清光绪三十年(1904年3月),由梁焕奎等人募捐、湖南巡抚赵尔巽准令于古定王台创办的湖南图书馆兼教育博物馆。
清宣统三年(1911年),长沙辛亥革命后,湖南图书馆改名为省立湖南图书馆。
中华民国元年(1912年),湖南图书馆改名“省立湖南图书馆”。
中华民国九年(1920年),湖南图书馆改属民政厅。
中华民国十年(1921年),湖南成立教育会图书馆,隶属于教育会。
中华民国十年(1921年4月),原建于1915年的省教育会附属通俗图书馆经省政府批准另建“湖南省教育会图书馆”。
中华民国十三年(1924年),湖南图书馆被改为“湖南图书编辑处附设图书馆”。
中华民国十四年(1925年9月),当局又撤消图书编辑印刷处,恢复省立湖南图书馆。
中华民国十五年(1926年),湖南省教育会图书馆改为“中山图书馆”。
中华民国十五年(1926年8月),在中国国民党第二次全省代表大会上,将创办于1921年的湖南省教育会图书馆改名为“中山图书馆”以纪念孙中山先生。其隶属于教育厅。
中华民国十五年(1926年12月),湖南省政府第6次财务会议决定,将湖南中山图书馆与省立湖南图书馆合并,改名为湖南省立中山图书馆。以教育会图书馆为主馆舍,定王台馆舍用于储存原思贤书局版片。
中华民国十九年(1930年7月),湖南省立中山图书馆教育会坪旧馆舍所有藏书、器具、文卷全部毁于战火。
中华民国二十年(1931年9月),省政府决定修复省立中山图书馆。
中华民国二十一年(1932年9月),修复后的湖南省立中山图书馆重新开放。
1949年8月,湖南省立中山图书馆为中国人民解放军长沙军事管制委员会接管部接管;省政府成立后,成立文教局,湖南省立中山图书馆由该局管理。
1953年,湖南省立中山图书馆易名为湖南省中山图书馆。在馆外增设烈士公园阅览室,建立流通图书站。
1966年9月,湖南省中山图书馆改名为湖南图书馆。
1970年10月1日,湖南图书馆又更名为湖南省图书馆。
1978年,省委、省政府决定在韶山路修建新馆。
1984年7月,由湖南省编制委员会行文,同意湖南省图书馆改名为湖南图书馆。
1984年12月,胡耀邦同志为新馆题写馆名“湖南图书馆”。