藍玉，定遠人，開平王常遇春的内弟。
開始在常遇春帳下效力，臨敵勇敢，所戰皆捷。
常遇春多次在朱元璋面前誇獎藍玉，藍玉因屢戰積功，由管軍鎮撫升任大都督府佥事。
洪武四年(1371)，藍玉随傅友德伐蜀，攻克綿州。
五年，又随徐達北征，率先出雁門，在亂山、土剌河大敗元兵。
七年，藍玉率兵攻克興和，俘獲其國公帖裡密赤等五十九人。
十一年，藍玉會同西平侯沐英征讨西番，擒獲其首領三副使，斬俘數以千計。
第二年，班師還朝，封為永昌侯，食祿二千五百石，給予世襲的憑證。
十四年，以征南左副将軍的身份跟随颍川侯傅友德征伐雲南，在曲靖擒獲元平章達裡麻，梁王在逃亡途中死去，滇地全部平定，藍玉功勞尤大。
太祖加封食祿五百石，冊封其女為蜀王妃。
二十年(1387)，藍玉又以征虜左副将的身份随大将軍馮勝出征納哈出，臨時駐紮通州。
當得知慶州有元兵駐屯後，藍玉冒着大雪，率輕騎突襲，大敗元軍，殺元平章果來，擒獲其子不蘭溪而歸。
然後會合大軍進至金山，納哈出派使者到大将軍營表示其投降的誠意，藍玉前往受降。
納哈出率數百騎前來，藍玉大喜，以酒招待。
納哈出酌酒以答謝藍玉，藍玉便脫下衣服給納哈出穿上，并說“：請穿上這件衣服再喝吧。
”納哈出不肯穿，藍玉也不飲酒，雙方争讓良久。
納哈出便将酒灑在地上，并對其部下發出咄咄之語，想要脫身離去。
鄭國公常茂當時在座，便直接上前，将納哈出砍傷，都督耿忠将其捉拿，押去見馮勝。
納哈出部下驚恐潰散，馮勝派降将觀童招降潰衆。
還軍至亦迷河時，将納哈出的餘部全部降服。
這時正遇馮勝獲罪，太祖沒收其大将軍印，命藍玉暫以總兵管事，随即又在軍中拜藍玉為大将軍，移駐薊州。
當時順帝之孫脫古思帖木兒即位，經常騷擾塞上。
二十一年(1388)三月，太祖命藍