В свое время Александру Дмитриевичу по наследству от отца и деда досталось довольно много книг, причем как русских, так и иностранных. В своих воспоминаниях он отмечал, что «возымел патриотическую мысль составить такую библиотеку, в которой находились все пособия для изучения нашего отечества в самом широком смысле».
И хотя в начале эта затея ему казалась трудновыполнимой, ведь «собрать все, что когда-либо и на каком-либо языке писано о России, казалось предприятием неудобоисполнимым», Чертков взялся за ее реализацию. Александр Дмитриевич искал новые экземпляры повсюду: по книжным развалам, лавочкам, антикварным магазинам и др. Для более тщательного поиска он даже уведомил книгопродавцов и комиссионеров о доставке необходимых книг. Те трудились, не покладая рук, но уверенно пополняли коллекцию. Особенно интересовали его книги, которые стали библиографическими редкостями не только в России, но и за рубежом. Ради поиска желанных экземпляров он неоднократно выбирался в заграничные поездки. Например, за экнигой К. Мюллера «Этруски» (1828), Чертков и вовсе отправился в вояж: Вена, Дрезден, Франкфурт и по другим городам Германии. Многие авторы, кстати, сами делились с Александром Дмитриевичем своими сочинениями.