耿炳文的父亲名叫耿君用,跟随明太祖朱元璋渡长江,因战功累升至管军总管。增援宜兴,和张士诚的部队进行激烈争战,最后耿君用战死。耿君用死后,耿炳文承袭父职,率领着他父亲的军队。至正十七年(1357年),耿炳文攻取广德,进攻长兴,打败张士诚的大将赵打虎,缴获战船三百余艘,生擒敌军守将李福安等人,攻克长兴。长兴地处太湖口,陆上通广德,与宣、歙等地接壤,是江、浙的门户。明太祖得到长兴,十分高兴,将长兴改名为长安州,并在此地设立永兴翼元帅府,任命耿炳文为总兵都元帅,守卫长安州。
温祥卿足智多谋,因躲避战乱前来归附,耿炳文把他请入幕府,制订实施防御计划十分周密。张士诚的左丞潘元明、元帅严再兴率兵进犯长安州。耿炳文奋力反击,大败敌军。此后,张士诚再次派司徒李伯升率兵十万,分水陆向长安州杀来。当时城内只有守兵七千人,明太祖十分着急,连忙命令陈德、华高、费聚前来增援。谁知李伯升黑夜偷袭援军营寨,几位大将溃散。耿炳文固守城池,敌方攻击十分猛烈,耿炳文采用不同的方式加以防御。战争持续一个多月,在此期间,耿炳文一直不敢懈怠。常遇春再次率兵增援,李伯升弃营逃跑,耿炳文乘胜追击,追杀李伯升军队五千余人。第二年,明太祖改永兴翼元帅府为永兴卫亲军指挥使司,任命耿炳文为永兴卫亲军指挥使。不久,张士诚出动大军,并派他的弟弟张士信来争夺永兴。耿炳文打败张士信,并俘虏敌军元帅宋兴祖。张士信大怒,大军围城。耿炳文和费聚迎战,又大败敌军。长兴是张士诚的必争之地,耿炳文在此坚守大概有十年之久,他以寡敌众,大小十几次战争,战无不胜,使得张士诚的目的不能得逞。大军征讨张士诚,耿炳文所部攻克湖州,围困平江。平定吴地后,耿炳文升任为大都督府佥事。