要讨论三国时期的军队制度就不得不提东汉时期的军制，因为从很大程度上来说，三国时期各国的军制都是对汉朝军制的一种继承，只不过由于不同的的政治环境和其他的因素影响，导致各国的军制又有一些不同之处，其各自具有自己的特色，符合本国的政治和军事需求。
东汉时期的中央军是由朝廷直接控制的宿卫军，也就是西汉时期的南军，还有警戒都城的部队被称作北军。而地方军，从刘秀开始实行裁兵政策起，西汉时期的郡国都尉、边郡吏卒等常备军都一个个被取消。可是随着叛乱四起，对地方军的需求又开始增加，且东汉末年百姓与朝廷的矛盾一步步加剧，各地急需大量驻兵来镇压叛乱和暴动。于是州牧的权力得到了进一步的加强，获得了完全的军事权力，可以自由募兵和发兵，这就使得各地军阀势力原来越强，且逐渐私有化，成为当地军阀的私人力量。东汉时期实行的是募兵制，与秦朝沿用至今的征兵制不同，募兵制不在各地方设立常备部队，而是在有战争需要的时候临时招募士兵，募集而来的士兵往往都缺乏训练，战斗力不仅远不如西汉时期征兵制下的士兵，甚至还比不上军阀们自己招募训练的私人军队。
魏国的中央军除了一部分精锐中的精锐守卫皇城外，大部分的主战部队是由各位将军们分别驻扎在各军事要地的，用以防守蜀国、吴国以及各少数民族。同时地方上的守牧也有自己管辖的部曲，是按原来的募兵制所招募的部队。而为了避免这些将军们的权力与各州郡守牧发生冲突，魏国逐渐将二者职权合二为一，在外镇守的将军同时也是地方上的守牧，这一军事制度导致魏晋南北朝时期手握重权的大将反叛的例子比比皆是，直到宋朝才进行了改革。
抛开曹操刚起兵时，由他本人及手下各位将领们带领自己的宗族部曲和招募的流民所构成的部队外，魏国大部分的军队，是来源于军户制。军户制下设立军籍，使一部分人口世代为兵，称为兵家子弟。这群人平时就种地屯田，有战事时就训练上马，是军队士卒的稳定来源。
吴国在中央军的构成上与魏国类似，但孙氏的宗族势力更为强大，把持着军队中的重要指挥职务。地方上同样也是军政合一的军事制度，保证了较为强悍的作战能力。由于吴国地方势力强大，同时也就导致地方守牧的权力非常大，就算不担任当地驻军的将军职务，也能拥有自己的部曲并且世袭职位。
吴国的军队来源除了早期将领们自带的部曲和私兵以外，还在后来建立了世兵制。但由于人口不足，不像魏国一样拥有充足的士兵，孙权开始征讨山越等少数民族，从而劫掠人口，补充到部队中或是用以耕种土地。
总的来说三国时期的军事制度是沿用了东汉时期的，但因为三国时期大大小小的战争不计其数，原来的制度已经不足以应对了，于是设立了新的户籍也就是军籍来固定一群人作为职业军人。这一军事制度虽然大大提高了军队作战能力，但也使得入了军籍的这一群人生活在社会的底层过着十分寒酸的生活，同时他们的家人也被集中管理如同人质一般。