蔡遷，籍貫不詳，元末随芝麻李駐守徐州。芝麻李戰敗後，歸附太祖，擔任先鋒。随大軍渡江，攻下采石，攻克太平，占領溧水，攻破蠻子海牙水寨和陳聎先，屢立戰功，平定集慶，授予千戶。跟從徐達攻取廣德、甯國，晉升為萬戶。進攻常州，俘虜了黃元帥，于是擔任都先鋒。從征馬馱沙，攻克池州，攻打枞陽，從征衢、婺二州，授予帳前左翼元帥。在龍江打敗了陳友諒，進而收複太平，占領安慶水寨，收複九江，在瑞昌打敗了陳友諒八陣指揮，攻克南昌。從援安豐，攻打合肥，激戰鄱陽，從征武昌，晉升為指揮同知。随常遇春讨平鄧克明餘黨，進攻贛州，占領南安、南雄諸郡，還兵追擊饒鼎臣于茶陵，晉升為龍骧衛同知。跟從徐達攻克高郵，攻破馬港，授予武德衛指揮使，鎮守淮安，移守黃州。随大軍下湘潭、辰、全、道、永諸州，任荊州衛指揮。進而攻克廣西，晉升為廣西行省參政，兼任靖江王相，讨平諸叛蠻。洪武三年(1370)九月去世，诏令歸葬京師，贈予安遠侯，谥号武襄。
蔡遷擔任将領十五年，未曾獨立作戰，多半跟從諸将征讨。身經數十戰，奮勇當先，橫刀立馬左右殺敵，敵人不敢近身，遍體傷痕，不堪視之，而蔡遷卻不在意，深為太祖器重。去世後，太祖十分痛惜，親自制文祭奠。