王莽新朝末年，全国战乱，硝烟四起。当时的卫将军王林是王莽的堂弟，为了帮助哥哥巩固政权，王林开始在全国招募骁勇善战的人才。扶风茂陵（今陕西兴平东北）有两个人被王林选拔出来，他们是马援和原涉。马援的祖先是战国时期的赵国大将军赵奢，赵国被秦国灭亡后，赵氏子孙为了躲避秦王的追杀，便以赵奢的名号“马服君”改姓为马。
王林把马援和原涉推荐给王莽，两人被封为镇戎大尹（新朝改太守为大尹）和新城（今陕西安康）大尹。新朝灭亡后，马援和哥哥马员跑到凉州躲避战乱。刘秀建立东汉后，马员去投奔他，得到了官职，马援则被扣留在西州。
当时的西州被隗嚣占领着，他自封为西州大将军，并且封马援为绥德将军，十分器重马援。隗嚣希望能归顺一个可靠的统治者，刚好公孙述在蜀地自封为帝，马援和公孙述是同乡，于是隗嚣派马援去蜀郡打探消息。
马援到了蜀郡，原以为公孙述会热烈迎接他，没想到公孙述当了皇帝后变得趾高气扬。在见马援之前，公孙述吩咐士兵在大厅里一字排开，又对大厅做了许多装饰，这才把马援请进来；马援进来后才行了一个礼，话都没说几句，公孙述就让下人把他安置到外面的旅馆里休息；随后请来裁缝给马援做衣服和帽子。等衣服帽子做好后，公孙述便在宗庙里大摆筵席，带着文武百官一齐欢迎马援的到来。为了显示自己身份高贵，公孙述把欢迎仪式搞得非常隆重，自己也摆出一副高高在上的模样。席间公孙述说了很多炫耀的话，旁边的大臣媚笑着附和，马援只是静静地听着。后来公孙述表示要封马援为侯爵，还要册封他为大将军。这些话让马援的随同十分高兴，以为公孙述是一位明君。马援却冷冷地和随从说：“周公吐哺，天下归心。公孙述骄傲自大，必定不会长久。”
回到西州后，马援对隗嚣说公孙述不是一个能够依靠的拥有宏图伟志的皇帝，隗嚣便打消了归附蜀郡的想法。
公元28年，马援奉隗嚣之命去东汉面见光武帝。刘秀高兴地说：“早就听说过先生的大名，今天一见，果然不同凡响。”马援感到很奇怪，问道：“陛下如何相信我就是马援呢，如果我是刺客呢？”光武帝说：“先生一看就是为国为民之人，怎么会是刺客？”从这时起，马援便打心眼里认定刘秀是个优秀的皇帝。光武帝刘秀也很赏识马援，南巡的时候都让马援随侍左右，又封他为待诏，经常向他请教处理国家大事的方法。
马援准备回西州时，光武帝很舍不得，可又不好挽留，便派太中大夫举行隆重的欢送仪式相送。回到西州后，马援把在东汉收集来的情况一一告诉给隗嚣，并劝隗嚣归附东汉，隗嚣答应了。为了表示诚意，隗嚣把自己的儿子隗恂派到洛陽去做人质，马援也带着自己的家人来到了洛陽。
可是马援在洛陽等了很久，也没等到隗嚣的到来。原来隗嚣受到了部下王元的挑唆，打算霸占陇西自立为皇帝，马援立刻写了一封信，劝阻隗嚣打消念头。可是隗嚣反而认为马援背叛了自己，竟然公开反对东汉。马援无奈之下只好给光武帝上了一份奏章，说自己本是遵照隗嚣的指示前来依附汉朝，对光武帝忠心耿耿，愿意为东汉拼尽全力。可如今隗嚣被奸人引诱，与汉朝为敌，还迁怒于我，令我十分伤心。如果光武帝不嫌弃我，就让我留在东汉吧。光武帝被马援的诚心感动，就把他留在了洛陽，后来光武帝同隗嚣作战，都是马援在出谋划策。隗嚣打不过东汉的军队，干脆跑到蜀郡和公孙述合作，共同对抗汉朝。
公元32年，隗嚣进攻略陽，城中守将拼死抵抗。刘秀率领众军前去增援，将士们认为应该在远处扎营，否则离得太近会有危险。恰好马援也带军赶来，刘秀急忙问他有什么好办法。马援把当时的情况分析一通后，果断决定在第二天早上围攻略陽城外的隗嚣军队，打他们一个措手不及。果然，隗嚣的军队在汉军的猛烈进攻下四处逃散，隗嚣趁机跑出包围圈。这次交战给他带来巨大损失，隗嚣的势力再也没能恢复过来。
公元33年，马援被封为太中大夫，带领将士们收复了凉州，众人遂推举他为凉州地方官。
公元35年，马援担任陇西太守。这一年夏天，羌族侵犯中原，马援率领三千骑兵迎战，俘虏了八千多敌人，追回了被羌族人抢走的粮食和牲畜。但他自己也受了伤，汉光武帝赏赐了很多财物给他，还写了一封诏书表彰他的功绩。
公元36年，光武帝率军进攻蜀郡，公孙述在战争中受了重伤，不久就死去了，蜀地终于归入东汉管理之中。长久的分裂战乱终于得以平息。
马援在光武帝一统中原的过程中做出了很大的贡献，不过他没有因为自己功绩显著而骄傲自大，对待下属和奴仆永远是恭谦和睦的样子，还鼓励下属官员监督自己的工作。因此马援在朝中的人缘很好，名望也高，加上他足智多谋，自然得到了光武的赏识和重用。
公元41年，交趾郡发生叛乱，马援向皇帝请命要求出征。公元43年，交趾乱军被马援斩杀大半，还俘虏了很多士兵，首领也被马援杀死。消息传到了洛陽，光武帝册封马援为新息侯，赏赐了大批财物，还散发了很多钱财给士兵。等到马援带领大军胜利回朝后，光武帝又赏给他一辆制作考究，用来应战的马车。
公元47年，武陵（今湖南常德西）有一个名叫五溪蛮的部落起兵攻打东汉。当时马援已经六十多岁高龄了，光武帝便打算找别人带兵出征，没想到马援得知消息后，穿着全身铠甲，急匆匆跑到大殿，站在皇帝面前说：“老臣还有能力带兵打仗，男儿志在四方，就请皇帝准许我为国家做出最后一份贡献吧。”马援全副武装的样子看不出一点年老力衰的迹象，光武帝再一次佩服他，就答应了他的请求。
马援不负众望，成功凯旋，可是他自己却在路途中患了一场大病，没多久就去世了。
东汉的开国功臣，马援可以算得上其中一位，他的大半生都是在战争中度过，一腔热血为国家，值得后世人们学习和敬仰。马援进入东汉朝廷时，全凭自己个人的能力，他没有找人推荐自己，也不屑于阿谀奉承，靠着实力一步步爬上高高的位置；即使位列高官，依然是一副平易近人的模样，实属难得。