6月下旬才抵達依蘭、方正和牡丹江東岸，與活動在該地區的第5軍軍部及第1師會合。
此時，日軍正在中蘇邊境挑起武裝沖突，中東路沿線日軍加強了封鎖，給在牡丹江地區集結的西證部隊的行動帶來極大困難。
6月底，西征部隊于林口刁翎召開幹部會議，決定将東。
西兩路部隊集中，統一向五常、舒蘭方向前進，與在五常地區活動的第10軍取得聯系。
具體部署是：以第5軍第1師為先遣隊；以第4軍一部，第5軍第2師為前梯隊；以第4軍第2師、第5軍教尋團為後梯隊。
7月初，在襲擊牡丹江畔之江東和三道通解決給養後，西征部隊即由林口以西之四道河子越過張廣才嶺，于12日拂曉攻占葦河縣之樓山鎮。
襲擊樓山鎮戰鬥驚動了日僞軍。
當西征部隊從樓山鎮撤出後，敵人從中東路沿線及延壽、方正調來大批日僞軍，對西征部隊進行圍追堵截。
在此情況下，西征部隊開始分兵活動。
第5軍軍長柴世榮率第5軍教導團、第1師第2團等部東返牡丹江地區；第4軍主力和第5軍第1、第2師分路向五常前進。
但因地形不熟，第5軍第1師誤人葦河。
第4軍主力和第5軍第2師誤人延壽縣境，又被日僞軍“讨伐”隊追蹤，在荒溝進行反擊戰，殲敵一部。
7月下旬渡螞蟻河進入葦河縣境時，與第5軍第1師相遇。
于是，兩部集合一處，共同行動，決定跨越中東鐵路突入五常以後，再向東，與第2軍第5師取得聯系。
為解決部隊給養，西征部隊襲擊了珠河（今尚志）元寶鎮附近的“集團部落”，得到一些補充，7月29日，西征部隊在一面坡附近遭日僞軍追擊，退至該鎮南面的山地密林中，在此内無給養，外有追兵的關鍵時刻，擔任西征部隊軍事政治領導貢任的中共吉東省委書記、第5軍政治部主任宋一夫對抗日戰争悲觀失望，發生動搖，于7月30日借巡崗查哨之機，攜款叛逃，給西征部隊帶來了極大的危害，引起了二些動搖逃跑事件的發生，但西征部隊廣大指戰員在第4軍軍長李延平，副軍長王光宇的率領下，仍堅定執行西怔計劃，繼續向五常進發。
8月初，西征部隊為破襲中東鐵路，在葦河小五站附近與日僞軍遭遇，發生激戰。
雖然沒有大的傷亡，但破襲中東鐵路的計劃卻己無法實現，并且引起日僞軍的更大注意。
為全殲西征部隊，日僞軍從哈爾濱、長春等地空運1000親人，對西證部隊進行圍堵。
西證部隊與日僞軍連續苦戰，傷