东汉并没有西凉这个行政区划，也就没有“西凉太守”这个官职，只有十三州之一的凉州。当时的凉州刺史是耿鄙。
马腾是汉、羌混血，素有勇力，很得周遭人的敬重。耿鄙在凉州横征暴敛，胡作非为，很快就导致了一场汉、氐、羌各族的联合叛乱。
为了镇压反叛，州郡募集各族男子组建了一支讨伐军，马腾加入其中，一来他本身就名气，二来汉末实行的还是察举制，再加上很快就立了战功，马腾就被任命为了军从事，统领这只部队，后又升为了军司马，偏将军。
很快的，形势就发生了逆转。
耿鄙此时突然被部下杀死，而由他召集的军队却不可能就这么解散，已经掌握了兵权的马腾等人也不可能把权力交出来，的结果就是叛军和镇压叛军的政府军同流合污了。史书上把他们这段反叛称之为“三辅作乱”。此时是中平三年（186年）。
《后汉书•董卓列传》中是这么记载的“太守李相如反，与遂连和，共杀凉州刺史耿鄙。而鄙司马扶风马腾，亦拥兵反叛，又汉阳王国，自号“合众将军”，皆与韩遂合。共推王国为主，悉令领其众，寇掠三辅。”
董卓
而这时由朝廷派过去镇压他们的就是董卓。
董卓就是凉州陇西人，年轻的时候曾经长期混迹在胡、羌各族中，与各族的头领结交，这也是后来为什么董卓能够得到东汉朝廷重用的一个重要原因。
董卓就靠镇压并州反叛，平定并州局势的功劳当上了并州刺史、河东太守。
董卓虽然打黄巾军不怎么行，在对付胡、羌各族上却很有一套，所以虽然几次被免职、治罪，都起复，而且权力还越来越大。
“三辅作乱”势头越大，朝廷顶不住，果然就又派了董卓过去镇压，不过，董卓平定胡、羌作乱一贯都是用尽各种手段的，或拉或打，所以这一次，也是一样。
董卓和“三辅作乱”中的马腾、韩遂都是出身于凉州，汉、羌杂居的环境中，有些人本身就是汉、羌混血，很容易沟通。
韩遂
而且“三辅”中的韩遂、马腾本来就是正规军，稍微一明说利害关系，很快就表明了立场，杀掉了“三辅”中唯一的叛军头领王国。
“三辅作乱”等于是不攻自破，内部就先乱了，接着韩遂等人又争夺起了军队的控制权，自相残杀，很快这只本来就是临时拼凑起来的联军土崩瓦解。
这一段时间的马腾史书上并没有记载。
不过根据史书上有关于董卓的记载，中平六年（189年），董卓受大将军何进所召，领军进京的时候，还曾经邀请马腾、韩遂一起出兵，共谋天下。《后汉书•董卓列传》记载“初，卓之入关，要韩遂、马腾共谋山东。遂、腾见天下方乱，亦欲倚卓起兵。”
马腾
从这个记载来看，马腾、韩遂应该已经成为了凉州的一方军阀，且拥有相对独立的地位。董卓可以和他们商议，却不能直接下命令。
之后董卓倒行逆施，于初平三年（192年）被吕布所杀。附庸在董卓旗下的韩遂、马腾等人直接降了东汉朝廷，韩遂被封了镇西将军，马腾被封了征西将军，屯郿县，之后马腾又兵败返回了凉州，不久后又归于曹操麾下。
建安十六年（211年）的时候，马腾一家起兵反曹，最终被曹操夷灭了三族，只有一个儿子马超逃了出来，投奔了蜀汉，成为了蜀汉的五虎上将之一。
