魏晋
中书省的安排，历代均有改动。自魏晋至隋初，以监、令各一人为其长官。后隋又废监，置令两人。唐承隋制，中书令曾改称为右相、内史令、紫微令等，均不久即复古称。监、令之下，有中书侍郎(魏晋时也有单称郎或通事郎的;晋宋今后，概称侍郎)，为中书监、令之副，它与监、令的责任都是答复皇帝的咨询，担任起草诏敕及阅览臣下的表章。自晋至隋初，侍郎员额四人，后改为二人，唐因之。侍郎之下，有中书舍人，初称中书通事舍人，后去通事之名。中书舍人初掌呈进章奏，后掌撰作诏诰及受皇帝委任出使，宣旨劳问，受纳诉讼。其员额历代不同，唐时置六人。中书舍人之下，复有通事舍人(一度改称通事谒者)若干人，掌朝见引纳，殿庭通奏。此外，又有右补阙、右拾遗，掌谏诤，唐代所置;起居舍人，掌修起居注，隋代所置。
中书省最重要的职权是撰作诏令文书。魏晋之初，监、令、侍郎多亲身起草，如曹魏时刘放为中书监，善为书檄，三祖(魏武、魏文、魏明)诏命多出自刘放。西晋张华为中书令，其时诏诰皆张华草定。这今后，担任监、令的高门士族，崇尚清谈，厌亲细务，起草诏诰文书，多委之于舍人，所以机要之权逐步下移。南朝时，草拟诏诰成为中书舍人的专职，其时皇帝为了便于唆使，多以初级士族或寒人充当舍人，“入直阁内，出宣诏命，凡有陈奏，皆舍人持入”，这样，他们就有时机参预决议计划。南齐永明(483～493)中，中书通事舍人权倾天下。梁武帝信赖周舍、朱异，两人先下一任中书舍人，专掌秘要，虽官位屡次升转，但不离舍人之职。陈时，“国之政事并由中书省。省有中书舍人五人”，“分掌二十一局事，各当尚书诸曹，并为上司，总国内机要，而尚书唯听受罢了”，构成中书舍人专政的局势，监、令、侍郎反而成为虚位。这种状况在陈亡今后才有所改动。北朝的中书监、令依然把握诏命起草权，如北魏高允、高闾均以能文为中书监、令，诏令书檄，多出其手;北齐邢邵、魏收亦曾为中书监、令，亲作诏诰，与南朝由舍人起草诏诰的状况不同。
隋唐
中书省
中书省，置中书令二人，正三品(代宗升正二品)，高宗龙朔元年(公元661年)改中书省为西台，中书令称右相。光宅元年(公元684年)，改中书省为凤阁，中书令称内史。开元元年(公元713年)又改中书省为紫微省，中书令称紫微令。后复古称。中书令为一省之首官，《新唐书·百官志》云：“中书令……掌佐皇帝执大政，而总判省劲”。
又置侍郎二人，正四品(代宗升正二品)，为中书令之副，参议朝廷大政，临轩册命，若四夷来朝，则受其表疏而奏之。又置中书舍人六人，正五品上，是中书省的主干官员，掌侍进奏，参议表章、草拟诏旨制敕及玺书册命。因其所掌皆机务要政，故特规则四条禁令，即禁漏泄，禁稽缓，禁违失，禁忘误。他们能够就省内所评论的军国大政及报上的奏状，宣布自己的开始处理定见，并签上自己的姓名，谓之“五花判事”。
省内的定见经中书令、侍郎聚集后，再交给中书舍人，然后依据皇帝的意旨草成制敕，这个专门担任执笔草诏的舍人称为“知制诰”，其他舍人也要分别在制敕上署名。在舍人中挑选一个资历最老的，称为“阁老”，担任处理本省杂事。舍人六人分押尚书省六部，并辅佐宰相判案。
宰相的议事处政事堂就有一个门通往中书舍人办公厅，宰相常从这个门通过，找中书舍人咨询政事。据《旧唐书·常衮传》载，代宗大历时，常衮为相，才把这个门堵死，“以示尊大，不相往来”。肃宗时，常以他官知中书舍人事，《新唐书·百官志》说其时因“兵兴，急于权便，政去台阁，决遣颛出宰相，自是舍人不复押六曹之奏。”直至武宗会昌末年，宰相李德裕再主张：“台阁常务，州县奏请，复以舍人平处可否。”但这一准则在其时好像未认真执行过。
唐代的中书舍人都是文人士子仰慕的清要之职，所谓“文士之极任，朝廷之盛选”，是跃居台省长贰以致入相的一块重要跳板。