李彥仙字少嚴，初名孝忠，甯州彭原人，遷到鞏州。
心有大志，所結交的都是豪俠之士。
閑時騎馬射箭。
他家住在近邊地的地方，每次出來必定暗地觀察山川形勢，或者窺視敵人放牧，搶取敵人的好馬回去。
他曾經為種師中的部曲，進入雲中郡，斬獲敵人首級，補為校尉。
靖康元年(1126)，金人進犯邊境，郡縣召募軍隊起兵救護朝廷，彥仙于是率領士兵應募，補承節郎。
李綱宣撫兩河，彥仙上書說李綱不懂得用兵，恐怕誤國。
奏書傳到朝廷，下令官吏追捕彥仙，于是彥仙逃走，改名彥仙。
以效用的身份随從河東部隊，諜報金人北還，又補校尉。
河東陷落，彥仙急速返回，道出陝西，以兵事拜見守臣李彌大，李彌大與他談話，認為他雄壯，留他擔任副将，戍守..、渑二州之間。
金人再次進犯汴京，永興軍主帥範緻虛會合西兵入援，彥仙阻止他說“：..、渑道路險隘難以大規模進兵，不如分兵前進，留一半軍隊在陝西，可以作為以後的圖謀。
”範緻虛對他沮喪衆人感到憤怒，罷免了他的官職并遣走。
軍隊到千秋鎮，果然失敗，官吏都逃遁。
當時彥仙任石壕縣尉，堅守三觜，百姓争相依附于他。
他下令說“：縣尉與本縣人不同，不像你們家室、祖墳都在這裡，今天縣尉替你們守衛，如果不盡力，那麼金人将會在街市上把你們的屍體示衆。
”大家都奮勇争先。
金人攻打三觜，彥仙假裝戰敗，金人追擊，彥仙埋伏出擊，掩殺金人數以千計，分兵四面出擊，攻下五十多座營壘。
開始，金人得到陝州，任用投降的人守衛，使他召集流亡，彥仙暗地派士兵置身其間，金人沒有覺察。
于是引兵攻打金人的南外城，晚上軍隊暗中迫近東北角，金人招納的士兵做内應，喧嘩而進，收複陝州。
彥仙乘勝渡過黃河，在中條諸山列欄栅，近旁的郡縣都響應附和，分派邵雲等人攻下绛、解等縣。
官吏傳布文書，請求州印章，彥仙說“：我以縣尉的身份守衛這裡，隻使用我的印章。
”事情傳到朝廷，皇帝對輔佐大臣說：“近來得知彥仙與金人交戰，多次取得勝利，