自从东汉末年以来，凉州地区便成为游牧民族聚集的地区，而羌族等民族的百姓对于东汉政府的统治并不是十分满意，因此屡屡起兵与中央政府作对，这让凉州地区的政局一直十分混乱。
在曹魏时期，由于政府希望招抚他们来参与战争，因此采取了怀柔的政策，这让凉州地区的局势暂时安定了下来。但是在司马炎建立晋朝之后，政府对于凉州地区游牧民族百姓的政策发生了根本性的变化，这激起了他们的不满。
晋武帝司马炎剧照
在鲜卑人秃发树机能的带领下，凉州地区的鲜卑军队与西晋军队发生了多次战斗，虽然中间树机能曾经被西晋招附，但是由于西晋的政策并没有改善，因此树机能之后又多次复叛，这让凉州之地几乎脱离了西晋的控制，对西晋的安定造成了极大的影响。
在西晋取代曹魏获得了中国北方的统治权之后，其对于胡汉混居的凉州地区采取了特别的管理方式。相对于曹魏希望吸引胡族内附，从而加强国力的政策，西晋则更加担心这些游牧民族会像东汉时期的羌人一样屡屡作乱。因此他们从雍，凉，梁三州中分出陇西，南安，天水，略阳，武都，金城，阴平七郡，将其立为秦州，并调著名将领牵弘和胡烈到这里任职，来监管此地的游牧民族百姓。之后他们又想在安定和武威之间恢复西汉时期设立的高平郡，希望借此来阻断河西鲜卑和陇西鲜卑之间的联系。
西晋政府的这些措施让河西地区的游牧民族首领们十分警觉，他们感到现在的政府对于自己并不是十分信任，因此他们开始将部众集中到一起，以便应付之后的变化。在胡烈到达秦州之后，其希望通过武力来震慑这些胡人，因此他在高平郡囤积了重兵，并对北部的鲜卑部落发起了进攻。此时秃发树机能正在万斛堆驻扎，便立即举兵来战，凉州之乱就此发生。
秃发树机能誓师起兵
在这次战斗中，胡烈对于鲜卑军队的能力估计略有不足，而且他们对于凉州地区的地形也不甚熟悉。因此在初次交锋之后胡烈率领的晋军被杀得大败，这让西晋政府大为震动。不过此时他们已经没有改变武力压制的政策，司马炎只是免去了都督关中军事的汝南王司马亮的官职，并将杜预和石鉴派到了秦州，让他们来平定树机能的叛乱。
久经沙场的杜预认为鲜卑军队势头正盛，此时不宜与他们正面交锋。但是石鉴为人刚愎自用，并没有采纳杜预的建议，还诬告这位名将：
杜预画像
之后其率军与树机能展开战斗，但是其却并不能取胜。在鲜卑军队屡战屡胜的鼓舞下，河西地区的其他游牧民族也展开了反晋斗争，这让凉州地区晋军的处境变得更加艰难。当时牵弘为了改善这一状况便率军出征，但是他却在青山一带被树机能截杀，这让晋军在秦州和凉州的防御彻底崩溃，鲜卑人的铁骑再也无法阻挡。
在树机能取得军事胜利的同时，凉州和秦州地区百姓的正常农业生产也遭到了极大的破坏。这让凉州地区的粮食产量变得极其有限，而鲜卑等游牧民族因为要保持足够的军队来应对晋军的进攻，因此其畜牧业也无法良好地开展，这让树机能的部落陷入了粮食危机之中。
在开始的时候，树机能和他的骑兵部队还能够通过劫掠村庄来获取粮食，但是随着凉州等地生产秩序的进一步破坏，这些村落的粮食已经无法满足鲜卑大军的需求了。而此时晋军采取了固守城市的战略，让树机能很难占得便宜。此时树机能将攻击目标转向西晋在秦州的诸屯田点，可是这是负责关西防务的司马骏已经预先派精兵赶往这些地点增援，并成功击退了树机能的进攻。
凉州古城遗址
这让树机能的鲜卑军队陷入了粮草不济的窘境。他们在走投无路的情况下只能选择向西晋政府投降，第一次凉州之乱就此结束。