山雲，徐人。
父親山青，以一名百戶長随從成祖起兵，積功升到都督佥事。
山雲相貌魁梧，富有機智謀略。
最初承襲金吾左衛指揮使。
多次随從皇上出塞，有功。
當時有幼軍二十五所，隸屬于府軍前衛，掌管該衛的人不管事，便另命山雲和李玉等五人安撫他們。
仁宗即位後，他升為行在中軍都督佥事。
宣德元年(1426)，他調到北京行都督府，受命與都禦史王彰從山海關到居庸關，巡視沿途關隘，可以相機行事。
皇上出征樂安，把山雲召回，輔助鄭王、襄王居守京師。
第二年，柳州、慶遠蠻人韋朝烈等人搶掠臨桂等縣。
當時鎮遠侯顧興祖因不救丘溫被逮捕，公侯大臣舉薦山雲。
皇上也知道山雲。
三年(1428)正月，山雲佩征蠻将軍印，充任總兵官前往鎮守。
山雲到後，讨伐韋朝烈，将其擊敗。
賊人退保山頂。
山很險峻，他們用藤把木頭吊起來，并在上面壘起石頭，官軍一到，他們便砍斷藤條，推下木頭石塊，沒有人敢靠近。
山雲在半夜把火把捆在牛羊的角上，在它們後面敲金打鼓，把它們驅向賊人。
賊人以為官軍來了，急忙斷藤。
到天明時，木頭石塊都快用盡了，官軍呼喊登山，遂攻破了賊人。
南安、廣源各蠻都被攻下。
這年夏，忻城蠻人譚團作亂，山雲去讨伐，擒獲了譚團。
四年春，讨平柳州、氵尋州各蠻人。
這年秋，雒容縣蠻人出來搶掠，山雲派指揮王綸将其擊破。
山雲上奏王綸的功勞，并彈劾他殺害良民之罪。
皇上寬宥了王綸，而心中更器重山雲。
廣西自從韓觀死後，各地蠻人逐漸兇殘起來。
山雲因廣西兵少，便留貴州兵為用，先後讨平了氵尋州、柳州、平樂、桂林、宜山、思恩等地蠻人。
九年，他又因慶遠、郁林的苗人除非受到重創，否則不臣服，便請求增派部隊。
诏令調發廣東兵一千五百人給山雲。
山雲分道剿捕，擒獲和斬殺了很多人。
他又派指揮田真攻打大藤峽賊人，将其擊破。
山雲在其鎮守期間，先後進行大戰十餘次，斬首一萬二千二百六十，降服賊首三百七十名，奪回被掠去的男女二千五百八十人，構築城堡十三處，鋪舍五百間，燒磚鑿石，增高加厚。