元至正二十三年（公元1363年 ）八月二十六，陈友谅在鄱阳湖身中流矢而死。
元至正二十四年（公元1364年 ）正月，朱元璋在应天府被群臣劝进为吴王。
朱元璋仿照元朝的官制，建立百官，设置中书省，废置带有当地组织意味的江南行中书省。
影视剧中的朱元璋
规则官员等第，清晰责任权限，中书省左右相国均为正一品，平章政事从一品，左右丞正二品，参知政事从二品，左右司郎中正五品，员外郎正六品，都事、检校对七品，照磨、管勾从七品；参议府，参议正三品，从军、断事官从三品，断事阅历正七品，知事正八品；都镇抚司都镇抚正五品；考功所考功郎正七品。
录用李善长为右相国，徐达为左相国，常遇春、俞通海为平章政事，汪广洋为右司郎中，张昶为左司都中。
此刻两位相国的位置，与元制相同，右在左上，右相国在左相国之上，因而，李善长在徐达之上。
影视剧中的徐达和常遇春
元至正二十六年（公元1366年 ）十二月，小明王韩林儿逝世；所以朱元璋停止使用龙凤年号，以元至正二十七年（公元1367年）为吴元年。
元至正二十七年（公元1367年 ）十月，朱元璋命令改百官礼仪，与元制不同，左在右上，所以改原右相国为左相国，改改原左相国为右相国，其他官职悉数依此变化，“命百官礼仪俱尚左，改右相国为左相国，左相国为右相国，余官如之”（《明太祖实录》）。
吴元年(1367年)改百官礼仪,以左为上,遂改原右相国为左相国。
影视剧中的李善长
中书省下设行中书省，作为当地组织。
朱元璋称王前，曾在浙东、江西建立江南行中书省部属的当地组织。
元至正十八年（公元1358年 ）十二月，朱元璋在婺州建立中书分省，又称为浙东行省。
元至正二十一（元1361年）正月，朱元璋被小明王封为吴国公。
元至正二十二年（公元1362年 ）二月， 朱元璋改中书分省为浙东等处行中书省，录用李文忠为左丞，统率衢州、处州、广信、严州、诸全的戎马。
元至正二十二年（公元1362年 ）正月，朱元璋承受陈友谅江西行省丞相胡挺瑞归降，令其仍担任本来的官职。不久，朱元璋承受陈友谅吉安守将孙本立屈服，录用他为江西行省参政。
影视剧中的朱元璋
朱元璋称王后，先后建立两个行中书省。
元至正二十四年（公元1364年 ）二月，陈友谅的儿子陈理在武昌屈服朱元璋。不久，朱元璋命令建立湖广行中书省，录用杨璟为参政。
同年七月，徐达、常遇春等人率军攻破左君弼占有的庐州路，朱元璋命令改庐州路为府，建立江淮行省，令平章俞通海总管行省业务，“命平章俞通海摄省劲，以镇之”（《明太祖实录》）。江淮行省不久废置，“太祖甲辰年七月为府，置江淮中书行省於此，寻罢”（《明史·志·地舆（一）》）。
元至正二十六年（公元1366年 ）九月，李文忠率军占据杭州。十二月，朱元璋废置浙东行省，在杭州建立浙江等处行中书省，录用李文忠为平章政事。
明朝洪武元年（公元1368年 ）正月，朱元璋在应天府登基称帝，国号大明，年号洪武；改左右相国为左右丞相，以李善长为左丞相，徐达为右丞相。