1883年には、
コロンビア大学の
司書兼
教授になる。翌年当地に
コロンビア図書館学校 (Columbia School of Library Economy) を設立。これは司書養成のための最初の機関であった。この学校は、大変成功し、彼の指示によりニューヨーク市内に移転し1890年に
ニューヨーク州立図書学校として発展的に再設立された。1888年から1906年まで
ニューヨーク州立図書館の監督に、また1888年から1900年までは
ニューヨーク州立大学の秘書になる。彼の手により(つまり彼の考案した十進分類法により)、ニューヨーク州立図書館は完全に一新され、アメリカで一番機能的な図書館になった。また、彼は各地を巡る
移動図書館や図書館における絵画収集のシステムも構築した。1890年には、ニューヨーク図書館協会 (the New York Library Association, NYLA) の設立に協力、以後1892年まで初代代表を務めた。
1931年に80歳で死去。デューイの功績を讃え、1951年、アメリカ図書館協会が選定した近代図書館で指導的役割を果たした40人のリスト「図書館殿堂」() にその名が加えられている。