中书省起于曹魏，它和西汉时的中书并无渊源关系。当曹操还是魏王的时候，就在他的王府属宫中置秘书令和秘书丞，专掌尚书奏事。曹丕称帝，它亦就由王府属下跃而为国家机构，改称中书省，置中书监和中书令，设于禁中，在皇帝身边，作为皇帝的私人秘书，负责撰写各类诏旨，并参预机密决策。
以后由于中书省与皇帝关系亲近，权势日大，最终顶替了尚书省，成为掌管国家机密的中枢决策机关。东晋南朝的众多权臣，基本上都带中书监(或令)和录尚书事这两种名号，所谓“内综机密，出录尚书”，这样才能使他们完全地左右朝政。
中书省的主要属官有中书侍郎、通事郎、中书适事舍人等。中书侍郎是中书省的副长官，中书通事舍人(梁时改称中书舍人)是最起作用的属官。中书省的职权有个迁移过程，它的主要职责为草诏诰，管机密，这在魏晋时期是由监，令和侍郎承担的，故监、令权重。而南朝则下移至舍人承担，监、令权轻，舍人反成为政治舞台上的主角。这个权力下移过程，是与当时士族地主势力渐趋衰落，庶族地主势力开始抬头的历史进程步步相应的。
南朝诸王朝的创立者都是寒门出身，他们启用出身寒素之人掌管机密，并委以心腹之任。因为当时的土族高门已经不可依倚，他们靠着门望， “平流进取，坐致公卿”，把持了高官要职，但又都以风流相尚，不屑于管理政事，认吏治庶务为浊务。
而南朝诸帝既不能失去士族的支持，又不能不治理国政，于是，一方面以高官厚爵来笼络他们，一方面又将实际权力下放到一些小官身上，选拔有才干的寒人来充任。寒人充当中书(通事)舍人，并对南朝政治发生重大影响，就是在这种背景下出现的。
有些寒人充当舍人之后，威灵显赫，如刘宋前废帝刘子业时的中书通事舍人戴法兴，威行内外，当时人称“法兴为真天子，废帝为膺(假)天子”。这些寒人掌权之后，很快就腐化了，马上又被别的寒族君臣所取代，这就使得南朝时内乱频仍，朝代不断更迭。
