1937年7月7日，卢沟桥事变爆发，日本侵略军向华北地区大举进犯。此时，黄新友从抗大毕业，经八路军副参谋长左权谈话，将其分配到第一二九师三八六旅第七七一团任参谋长。

1938年11月，黄新友出任豫北干部学校校长，担负起培训抗日干部之重任。一个多月后，即1939年1月，他又奉调到第三四四旅六八八团任参谋长。此后，他积极协助团长韦杰、政委何柱成工作，先后参与指挥平汉路东的香城固、彭城、古山等战斗，给予日伪军以沉重打击。

根据八路军总部训令，第六八八团参加新式整军，黄新友认真履行参谋长职责，严格管理教育部队，为提高六八八团的军政素质和战斗力付出了艰苦的努力。

1940年8月，“百团大战”开始。根据作战部署，黄新友率领的新一旅第一团担负破击丰乐至安阳段铁路任务。1940年8月20日，他率部顺利越过封锁线，进袭丰乐车站，毙敌十余名，将车站设备及铁路破坏一部，炸毁了漳河铁桥。9月19日，又一次越过封锁线，破坏安阳车站附近铁路100多米，另向安阳敌机场发炮十余发。为了保证下阶段破击任务的完成，黄新友在第三次完成破击任务返回的途中指挥部队分割穿插，对敌实施反伏击，歼灭日、伪军各一个中队，生俘日军六名，受到了旅首长的表扬。

百团大战后，日军实施报复性的大“扫荡”，对抗日根据地实行残酷的杀光、烧光、抢光政策，造成钱粮难筹，生活极度困难。为了使部队渡过难关，黄新友亲自带领小分队冒着刺骨的寒风，沿着崎岖的羊肠小道，往返100多里到深山背粮。他的手冻裂了，肩膀磨肿了，脚上打起了血泡，但无论再苦再累他都一声不吭，一样和战士们吃野菜，啃玉米面窝窝头，从不搞特殊。一次，通信员从安阳地区的果镇上为他买回两个白面烧饼，他不仅不吃，还骂通信员是“败家子”，硬是把烧饼送给了伤病员。

日军“扫荡”结束，部队的生活逐步好转，黄新友被抽调到中共北方局党校学习，加深了对苏联革命、特别是对社会主义革命和建设的了解，再次武装了思想。1941年5月，他以优异的成绩结业后，被任命为第一二九师新一旅副旅长。此时，正值日军对我冀鲁豫边区实行五路大“扫荡”则刚被粉碎，他受命率一个团开赴潞城、襄垣地区，协助地方党组织开展反封锁、反蚕食斗争。他率部到达后，与地方党组织紧密配合,深入发动群众，广泛开展生产自救及武装自卫等活动，使这一地区的抗日工作很快得到恢复和发展。

驻华北日军于1942年2月至5月，先后两次对晋冀豫边抗日根据地的太行、太岳区和晋西北抗日根据地发动拉网式大“扫荡”。5月，严阵以待的黄新友奉命率领一个团转入潞城、平顺地区，伏击由长治外出之日军，后因敌情变化，他率部跳出“扫荡”圈，与太行第四分区第三十二团会合。5月底，他指挥这两个团乘敌后方空虚，奔袭长治飞机场，烧毁敌机三架。尔后，经壶关转向黎城追击敌人，歼灭日伪军一部。

此次反“扫荡”作战中，黄新友实行灵活机动的指挥，免使部队和师直属队遭受损失，并伺机严惩敌人，受到师首长刘伯承和邓小平的高度称赞。战后，他受命协助谢富治指挥新一旅和五旅两个旅，驻守林县任村以南，监视顽军行动。因顽军暂无妄动迹象，他奉调襄垣地区开辟工作，不久又接到赶赴黎城参加整风运动的通知。

1943年3月间，黄新友出任太行军区第四军分区司令员，受领的任务是率该分区部队守卫太行山南大门，枕戈待旦，随时反击顽军进攻。4月20日，日军向太南、豫北地区大举进犯向抗日根据地进攻。为保卫太行根据地，太行军区8月中旬发起林南战役。8月17日夜，黄新友、何柱成率西集团猛烈穿插分割，直捣林县城及其外围据点，经反复冲杀，于次日中午攻克林县城，全歼守城伪军。20日，黄新友、何柱成率领西集团南下，先后占领会涧、原康、临淇等地，歼灭伪第八纵队等部。经过连续九天作战，予庞、孙伪部以歼灭性打击，保卫了太行根据地，开辟了林县以南、辉县以北的广大新区。

林南战役结束后，太行军区决定组建第八军分区，负责开辟以陵川为中心的抗日根据地。黄新友被任命为该分区司令员。为了尽快开辟这一地区，黄新友率部实行了三项有力措施。一是号召部队厉行节约，尽力救济饥民，医治战争创伤，和群众一道渡过难关；二是边宣传发动群众，边寻机打掉敌人的一些小据点，以求得立足之地；三是抽调部队干部充实地方，推动各县抗日武装及政权的建立。经过半年多的努力，八分区辖区内的各项工作均呈现出蓬勃发展的势头，较快地完成了开辟工作任务。

1944年底，太行军区根据毛泽东关于“扩大解放区，缩小沦陷区”的指示，命令第七、第八军分区部队及冀鲁豫边区党校警卫团，向盘踞道清路南北之日伪军发动强大攻势，实施道清战役作战，指定黄新友和七分区司令员张廷发为战役指挥员。

道清战役后，黄新友率领八分区部队经过短暂的休整，便接到了太行军区要求参加安阳战役的命令。1945年6月29日，安阳战役打响，黄新友、张廷发率第一支队越过安阳河，以快速动作直扑曲沟集，经过一夜激战，于次日晨全歼守敌伪第三旅。接着，将鹤壁收复。此次战役打破了敌人对抗日根据地的封锁，为全面大反攻创造了极为有利的条件。