下令追擊，日濑谷，坂本兩支隊于8日退至峄縣、棗莊南一帶，占領陣地，改為防禦。
第20軍團及第2集團軍進攻至11日，仍無進展，形成暫時對峙，參加台兒莊戰鬥的中國軍隊。
總計傷亡19500餘人，日軍傷亡11984人。
李宗仁、白崇禧欲殲滅峄、棗日軍，感到兵力不足。
恰于此時，得到來自天津的失實情報，認為“台兒莊勝利己激起日反戰運動，緻預定由國内增加8師團，及早解決華北戰局之計劃打消……我如能把握台兒莊勝利之果而早日解決峰具之敵，則可擴大敵之反戰運動，慫動國際之觀聽。
确定勝利之基礎，在此一舉”。
因而請求蔣介石“集中所有力量争此一著”。
軍委會同意，開始向第五戰區增兵。
至5月間，第五戰區的部隊已達到64個師及3個旅，約45萬人。
日本大本營“看到台兒莊方面有大量中國軍隊，特别是湯恩伯軍團的出現，認為給蔣介石的主力一次大的打擊，是挫傷敵人抗戰意志的大好機會，因此決定進行徐州作戰”，以大約6個師團的兵力（第10、第5、第16、第114師團，獨立混成第5旅團，混成第3、第13旅團及臨時航空兵團），由徐州以北，以大約3個半帥團的兵力（第9、第3、第13師團，第101、第6師團各1部及第3飛行團）由徐州以南，分路向徐州合擊。
因進攻台兒莊的第2軍部隊被中國軍隊擊敗而退逃，認為“有損于陸軍的傳統”，4月30日下令，免去西尾壽一第2軍司令官的職務，任命東久迩宮為第2軍司令官（徐州會戰一結束，第10師團長矶谷廉介亦被免職并編入預備役）。
5月上旬，東久迩宮到任，日軍開始對徐州發動全面進攻。
蔣介石發現日軍對徐州采取包圍行動，企圖乘日軍兵力分散且離開據點的大好機會，令第五戰區采取攻勢、各個擊破敵人，先集中兵力消滅淮北的日軍。
但部隊尚未調整、集結完畢，形勢發生極大變化，日軍進展迅速，向徐州作向心攻擊的7路日軍，至5月15日已基本接近完成對徐州的包圍，即将切斷隴海路。
李宗仁為避免在不利形勢下進行決戰，決定放棄徐州，作戰略轉移。
5月17日.第五戰區司令長官部撤離徐州，由宿縣向西轉移，其他各部隊均按第五戰區的命令分頭突圍。
5月19日，日軍占領徐州。
徐州會戰結束。
七七事變以來，日軍雖然在忻口、淞滬會戰中遭到中國軍隊的堅強抗擊，但從未實施過戰役範圍的退卻行動，更未承認過戰鬥失敗，一直以“戰無不勝”的“皇軍”自居。
台兒莊的作戰，卻使其第10、第5兩個精銳師團的部隊，在中國軍隊包圍下倉皇退逃，連大批重型武器、彈藥等都不得不遺棄戰場。
盡管日本大本營僅說是“有損于陸軍的傳統”。
但卻無法掩蓋戰敗的事實。
親身經曆台兒莊作戰的日本士兵感受比較真實。
如日軍第10師團第63聯隊第2大隊的澀谷，在日記中寫道；“我方死傷益見慘重，全員不分晝夜嚴加防守，各中隊人數僅剩六、七十人”，“大隊部無法支持……犧牲數百人生命占領的場所被敵方奪去，我隊含着眼淚随大隊部後撤，退卻時向戰死者暫時告别”。
作為第三方的美國人則毫不客氣他說，台兒莊戰鬥“是日本建立現代化軍隊以來遭受的第一場引人注目的大慘敗”。
當然，台兒莊的勝利，僅僅是一次局部性的勝利，戰役本身對中日戰争全局不起決定性作用，但它沉重地打擊了日軍的侵略氣焰，以實際戰例證明日軍并非不可戰勝，從而鼓舞了國民政府及全國人民的抗戰意志，增強了抗戰必勝的信心，消除了一些人的恐日心理，另外，台兒莊的勝利，使日軍重新估計中國的抗戰力量，同時也改變了國際上對中日戰争的看法。
當時，英、美、法、蘇等許多國家的報紙，都以大字标題刊登了中國台兒莊勝利的消息，并紛紛發表評論。
1938年4月9日倫敦路透社電訊說：“英軍事當局，對于中國津浦線之戰局極為注意。
最初中國軍獲勝的消息傳出，各方面尚不十分相信、但現已證明日軍潰敗之訊确為事實”，“英人心理漸漸轉變，都認為最後勝利當屬于中國”。
德國柏林哥隆新聞也說：“徐州方面中國抵抗力之強，殊出人意外”，“最慎重的觀察者亦不能不承認日本必遭失敗”。
這些社會輿論雖然并不等于其政府觀點，但它對提高中國在國際上的地位和争取外國政府的支援，有一定的積極導向作用。
日軍在國家準備不足的情況下，為湊集必要的兵力實施徐州會戰，從華北、華東15個師團中調用10個師團投入徐州戰場，仍不足以完成圍殲徐州地區數十萬中國軍隊的戰略，戰役任務，留置後方的兵力，更為捉襟見時。
連守備幾條鐵路要點都不夠用。
如第1軍因抽調平漢路上的第16、第14師團去徐州作戰，緻冀南、晉南守備空虛，不僅被迫放棄了長治地區，而且導緻已占領晉南黃河北岸的第20師團遭中國第二戰區部隊的攻擊（這些部隊大多是日軍進攻時退至黃河以南，徐州會戰開始後乘虛返回的），不得不放棄蒲州、芮城，平陸等地，退縮至曲沃、侯馬、新绛地區，并被切斷與後方的聯系，靠空投補給，陷于困境。
整個華北日軍占領區，均感兵力不足，形勢不穩，為第18集團軍深入敵後、開辟敵後戰場、建立抗日根據地，創造了更為有利的條件。
毛澤東同志曾說過：日軍“将華北兵力集中于徐州，華北占領地就出了大空隙，給予遊擊戰争以放手發展的機會”。
敵後戰場的開辟及遊擊戰的發展，反過來又牽制大量日軍，對正面戰場起到相互支援和相互配合的作用。
國民政府軍事委員會政治部部長陳誠在回答記者問，分析台兒莊戰勝的原因時曾說：“山西境内我方有20萬之遊擊隊，遂使5師團之衆，隻能據守同蒲路沿線，不敢遠離鐵道一步……故台兒莊之戰勝，在戰略上觀察，乃各戰場我軍努力之總和，不可視為一戰區之勝利”。
從整個中日戰争來說，在戰略上也是如此，正是由于正面和敵後兩個戰場、正規戰與遊擊戰兩種戰法的緊密配合、相互支援，才更有利于中國的持久抗戰。
從作戰指導上看，改變單純的陣地防禦，實施“攻勢防禦”，是台兒莊獲得勝利的主要原因；而部分高級将領缺乏全局觀念，各兵團間戰役協同不密，如第2集團軍在陣地戰中确已吸引并抵住了進攻，而第20軍團在運動戰中，卻未能及時向敵側背實施有力的攻擊，則是台兒莊戰鬥雖然取得勝利卻不能殲滅敵人的重要原因。
同時，戰役指導違背戰略方針，高級統帥心理上誇大台兒莊勝利的作用，大量增兵，企圖乘勝進行一場确定勝利基礎的戰略性戰役決戰，既不符合實際，又違背了持久消耗戰略原則。
則是造成數十萬大軍尚未調集完畢即倉促突圍轉移的基本原因。