曹彬字國華，是真定靈壽人。
其父曹芸，任成德軍節度都知兵馬使。
曹彬出生周歲時，他的父母把各種玩具排放在桌子上，看他取什麼。
曹彬左手拿幹戈，右手抓俎豆，過一會兒又拿一方印，其他的不屑一顧，人們都感到驚異。
年長後，禀性淳厚。
後漢乾..年間，任成德軍牙将。
節度使武行德見他端重謹慎，指着他對身邊的人說“：這人是有遠大志向與才能的，不是平常之流。
”後周太祖的貴妃張氏，是曹彬的姨母。
周太祖受禅即皇帝位，召曹彬回京城。
隸屬世宗軍中，跟從鎮守澶淵，補任供奉官，升為河中都監。
蒲州節度使王仁鎬因為曹彬是皇帝的親戚，對他特别禮遇。
曹彬執禮越發恭敬，公府舉行宴會時，整天态度端重，從不旁視。
仁鎬對屬吏們說：“我自認為夙夜匪懈，到看到監軍矜嚴端重，才感覺自己的散率啊。
”
顯德三年(956)，改任潼關監軍，升為西上門合門使。
顯德五年，出使吳越，傳達完使命就回朝。
私下相見之禮，一點也不接受饋送，吳越人乘輕舟追送給他，以至再四，曹彬還是不接受。
過一會兒說“：我最終拒絕他們，是近于邀名啊。
”于是接受下來回來登記，全部送給官府。
世宗強行還給他，曹彬才拜賜，全部分給親朋舊友，自己不留一錢。
出朝任晉州兵馬都監。
一天，曹彬與主将及賓客們在野外環坐，遇鄰道守将騎馬帶着書信來到，使者從來不認識曹彬，暗地裡問人說“：誰是曹監軍？”有人給他指認曹彬，使者以為是騙自己，笑着說：“哪裡有國戚近臣，而穿绨袍，坐樸素的胡床的事呢？”審視半天後才相信。
升任引進使。
當初，太祖管領禁兵，曹彬中立不偏不倚，沒有公事從不登門，群居宴會，也很少參預，從此被器重。
建隆二年(961)，從平陽被召回朝，太祖對他說：“往日我常想親近你，你為什麼總是疏遠我呢？”曹彬叩頭謝罪說“：我是周室的近親，又忝任宮内職務，端正做官，還怕有過失，哪裡敢妄自交結呢？”升任客省使，與王全斌、郭進率領騎兵攻打河東平陽縣，戰降敵将王超、侯霸榮等一千八百人，俘獲敵人一千多人。
不久賊将考進率領軍隊來增援，三次作戰都打敗敵人。
于是把樂平建為平晉軍。
乾德初年(963)，改任左神武将軍。
當時剛剛攻克遼州，河東引契丹六萬騎兵來進攻平晉，曹彬與