刘秀对此深感痛惜，他深知“典籍者，治国之鉴，教化之本”，因此在登基之初，便将“收集典籍、重建皇家藏书”列为重要政务。他采取的策略极为务实：一方面，利用自己每平定一地、民心初定的时机，优先寻访当地的儒雅之士，收集散落的图书；另一方面，通过朝廷诏书，向天下公开征集典籍，鼓励民间献书。
史载刘秀“每至一地，未及下车，而先访儒雅，采求阙文，补缀遗漏”。例如，建武三年（公元27年），他平定关中后，不顾战后疲惫，立即召见当地名士杜林、卫宏等，询问典籍留存情况。当得知杜林携带《古文尚书》等珍贵典籍隐居河西时，刘秀特意遣使前往河西，将杜林与典籍一同迎回洛阳，并任命杜林为侍御史，让他主持典籍的整理工作；建武六年（公元30年），平定蜀地后，他又专门派人寻访曾任西汉校书郎的扬雄后人，收集扬雄的著作与家中藏书，避免这些珍贵文献在战乱中遗失。
为了鼓励民间献书，刘秀颁布诏书：“天下有藏典籍者，无论官民，献书于朝，皆有赏赐；若所献为孤本、善本，除赏赐外，朝廷另抄录副本归还，以保其家传。”这一政策极大地调动了民间献书的积极性——此前因战乱而“怀挟图籍，遁逃林籔”的学士们，纷纷走出山林，将珍藏的典籍送往洛阳；普通百姓家中若有祖传图书，也愿意献予朝廷，以获赏赐与荣誉。一时间，洛阳成为天下典籍的汇聚之地，“鸿生矩儒，莫不抱负典策图籍，芸汇京师”，文人学者们携带典籍奔赴洛阳，不仅为皇家藏书贡献了资源，也为典籍的校勘、整理提供了人才支持。
刘秀还特意选拔精通典籍、学识渊博的大臣主持藏书整理工作，其中最具代表性的便是班固的父亲班彪。班彪曾在西汉末年收集整理《史记》后续史料，刘秀任命他为兰台令史，负责校勘皇家藏书，辨别典籍真伪，分类整理篇目。在班彪等学者的努力下，朝廷对收集而来的典籍进行了系统梳理：凡残缺不全者，依据不同版本补缀完整；