建武八年（公元32年），来歙袭占陇右腹心要镇略阳后，隗嚣留一部兵力防守陇坻隘口，自率主力围攻略阳。但因来歙坚守，久攻不下，形成对峙。刘秀认为形势有利，亲率诸将大举攻陇。至漆县（陕西彬县）时，诸将多以陇中地形险峻，情况不明，认为以帝王之重“不宜远入险阻”。因而对今后行动犹豫不决。独有马援认为：隗嚣有土崩之势，兵进有必破之状，主张迅速进军。他熟悉陇山地形，于是堆米为山，显示峰岭沟谷。狭谷险隘，指出何处有捷径，何处可攀登，何处可迂回，以及众军应走的路线等，“指画形势”，分析曲折，昭然可晓。刘秀听了大喜说：“虏在朕目中矣。”第二天，刘秀下令进至高平第一城。河西窦融率步骑数万来会，于是合兵进击，隗军败溃，收降十万余人。隗嚣北奔西城（甘肃天水西南），略阳解围，基本上摧毁了隗嚣的割据统治基础。
马援“聚米为山谷，指画形势”是古代最早的沙盘战术，对刘秀制定再次攻陇的作战计划，起到了一定的作用。
王莽末年，羌族大批入塞。金城（甘肃永靖西北）属县多为所有。隗嚣据陇时，曾与之联合，共同抗汉。由于“习俗既异，言语不通”，“与汉人杂处”，时常发生冲突。建武十一年（公元35年），先零羌族起兵攻掠临洮（甘肃岷县），来歙“奏言陇西侵残，非马援莫能定”。这时马援以太中大夫任来歙副帅，正监护诸将屯长安。刘秀遂任命马援为陇西太守去平定羌族的动乱。
马援受命后发步骑三千人，一举即击破临洮先零羌。但羌族其他各部数万人，仍据守在隘（甘肃永登西南），四出劫掠。马援探知羌族各部的家属辎重已移营于允吾谷（甘肃兰州民和之间），遂“潜行间道，掩赴其营”，羌人仓皇退逃，马援跟踪追击，羌人退至唐翼谷，集中兵力聚守北山。马援陈军山前，秘密分遣数百骑绕袭其后，乘夜放火，击鼓叫噪，羌人惊溃，歼灭千余，战斗中马援中箭，贯穿小腿，但仍坚持指挥。
这时朝臣认为金城破羌（青海乐都东南）之西，路远多寇，议放弃这些地方，马援得知后，上书反对说：“破羌以西城多完牢，易可依固；其土地肥壤，灌溉流通。如令羌在湟中（湟水流域），则为害不休，不可弃也。”刘秀乃下令遣还逃至金城的客民，仍派军驻屯各城堡。
建武十三年，（公元37年）武都（甘肃西和南）羌族参狼部与塞外诸部杀官反汉，劫掠地方。马援率兵四千进击。羌兵据守氐道（甘肃礼县西北）山区。马援以围而不攻的手段。断其水源粮食。羌兵迫于饥渴，大部逃出塞外，有万余人归降。
马援在陇西，攻抚兼施，所到之处，置长吏，修城廓，筑坞侯（土堡），导水开田，劝以耕牧，郡中乐业。并把小部分羌人迁到水土肥沃的天水、陇西、扶风三郡居住。又派羌族首领杨封出塞通好，各部皆来和亲。武都羌族脱离公孙述来归者，马援奏准刘秀也都恢复他们首领的官职，给与印绶，马援在任“务开恩信，宽以待下，任吏以职，”于是政简民安，边陲安定。
