1924年1月，在中国共产党帮助下国民党改组，出现了第一次国共合作的局面。孙中山命廖仲恺、蒋介石等筹办黄埔军校，四处延揽人才。孙中山  1945年12月何应钦将军于上海由广州派人到上海，经王伯群等人介绍，何应钦赴广州。在孙的元帅府任参议。何因与蒋介石既有“同学”、“同事”的关系，又在贵州办讲武学校颇有名气，于是被蒋看中，参与军校筹建工作。6月12日，黄埔军校成立，何被孙中山授予少将军衔，任黄埔军校副总教官。

何工作勤勉，待人随和，有标准军人风范，对蒋恭顺，因此颇受蒋赏识。何任教官时，参与讨平广州商团叛乱。9月初，军校学生编为两个教导团，10月12日蒋委托何兼本校第1教导团团长；次日，廖仲恺、蒋介石又任命何为军校教务处代理处长。广东军阀陈炯明叛乱，蒋介石率两个教导团讨伐。何带的第1团连战皆捷。陈部所属林虎，勾结滇桂军阀袭击何团。何当时癫痫病发作刚过，即亲率团部勤杂人员向敌冲锋。蒋与苏联顾问加伦将军在高处观战，见何奋不顾身，对何备加赞赏。此役胜利后，加伦即将列宁赠给他的佩剑转赠何作纪念。后两个团合编为第1旅，何升任旅长。7月，国民政府在广州成立，何任军事委员会委员。军委会将所属军队编成国民革命军，黄埔学生军编入第1军，蒋介石任军长，何应钦任师长（周恩来为该师党代表），9月，陈炯明再次兵变时，国民政府派兵第2次东征。蒋为总指挥，后分三路，何应钦、李济琛、程潜分任各路指挥。何部多有建树，深受国民政府赞赏。何于11月5日出任潮汕善后督办；12月10日，升任第1军军长兼潮梅绥靖委员、军校潮梅分校校长。在反共的“中山舰事件”后，又出任黄埔军校教育长。

1926年7月国共联合北伐，何任第1军军长，何的一部保广东根据地，大部分兵力向闽浙攻击。9月，北伐军全力在湖南初战告捷，东向长江下游5省。10月，福建都督周荫人倾巢西移，企图窜犯潮梅，何乘机率部袭击周总部驻地永定，取得全胜后挥师绕道，兵分5路，在松口攻周军主力，俘敌师长以下4000余人，蒋去电嘉勉，电汇银元2万犒劳将士，升何为国民革命军东路总指挥。12月占福州，进闽北，控制福建全省，何任该省临时政治会议主席，又乘胜进军浙江，攻克杭州，后在南京外围迂回作战，等到2、6军去强攻南京后开入城内，抢占有利地势。