南书房的设置，是清朝中央集权制高度发展过程中的一个重要环节，它是雍正朝建立的军机处的前身。清代史学家赵翼说：“时尚未有军机处，凡撰述谕旨，多属南书房诸臣。”实际上，军机处的某些特点，如地位显赫但无决策权，机密性质等，南书房都已具备。南书房又是康熙帝笼络汉族士人的“木天储才之要地”。南书房行走有两个特点：第一，绝大多数是汉人，这是清朝采取的缓和满汉民族矛盾，消除汉族士人反清意识从而使之为清朝服务的政策的具体表现；第二，均为经史、文学、书法、绘画以及自然科学方面出类拔萃的才人学者。入直南书房的王士祯为诗坛一代宗匠，朱彝尊与王士祯并称朱王，方苞是桐城文派创始人，沈荃经术湛深，戴梓是很高明的天文算学家，等等。
南书房能集中这些人才，体现了康熙帝统一中国的雄才大略。他选拔南书房行走的标准是：“拣择词臣才品兼优者充之”，“惟视学问之优，不尽为官职”。
康熙皇帝选拔南书房行走的方式，或亲自考察，或询于他人。如选拔张英，“召入对，上心识之。自是再四咨询，对者无异词”，于是入选。
满族统治者为了巩固自己的统治，就必须接受比本族文化先进得多的汉族文化。康熙帝设置南书房的目的之一，就是向汉族士人学习汉族文化，其中包括语言文字、经史百家、书法绘画、天文地理、算学几何、典章制度、历代统治经验等多方面的内容。南书房行走要奉命讲诵经史，考订文章，录经典，纂辑讲章诗文。康熙帝为人勤奋好学，在南书房行走的辅助下，他阅读了大量经史文学典籍和自然科学书籍，通晓了汉族文化，成为中国历史上少有的知识渊博的君主。他很赞赏对自己有很大帮助的南书房行走，曾说：“得士奇，始知学问门径。”
南书房行走与一般朝廷官员不同，虽然身居高位，但不过是康熙帝加强皇权的工具和伴读的书仆，所以非常辛苦。
在康熙朝，南书房既是康熙帝的书斋、课堂，也是为他服务的机要秘书处，更是他加强皇权的重要工具。康熙朝之后的雍正朝，设立了军机处，南书房就逐渐失去了中枢机要秘书机构的作用，成为专门侍奉皇帝读书消遣，专司文词书画的文学侍从了。