1937年至1941年期间,叶剑英先后担任中共中央长江局委员、南方局常委,多次参与同国民党谈判。1940年3月,他出席蒋介石在重庆召开的全国参谋长会议,作了《 作战与磨擦问题 》的长篇发言,用大量事实宣传八路军抗日的业绩,驳斥国民党顽固派对八路军的种种污蔑,取得了广泛同情,被誉为“舌战群儒”。
1941年2月,叶剑英返回延安,继续担任中央军委参谋长兼十八集团军参谋长。他审时度势,精心运筹,协助毛泽东、朱德指挥八路军作战。
1945年12月,叶剑英再次加入以周恩来为首的代表团,到重庆进行停战谈判,并出席政治协商会议。
全面内战爆发后,叶剑英担任中共中央后方委员会书记,积极协助中央领导全国范围的解放战争,为保证党中央和毛泽东等同志转战陕北、指挥全国作战作出了贡献。
1949年初,任北平市军事管制委员会主任兼市长的叶剑英和聂荣臻、彭真一起,促成了北平和平解放,在这一年的8月,叶剑英被任命为中共中央华南分局第一书记、广东军区司令员兼政治委员。其后,他和陈赓率领部队一路向南,从北平到广东,直奔故乡而去。