1937年至1941年期间，叶剑英先后担任中共中央长江局委员、南方局常委，多次参与同国民党谈判。1940年3月，他出席蒋介石在重庆召开的全国参谋长会议，作了《 作战与磨擦问题 》的长篇发言，用大量事实宣传八路军抗日的业绩，驳斥国民党顽固派对八路军的种种污蔑，取得了广泛同情，被誉为“舌战群儒”。
1941年2月，叶剑英返回延安，继续担任中央军委参谋长兼十八集团军参谋长。他审时度势，精心运筹，协助毛泽东、朱德指挥八路军作战。
1945年12月，叶剑英再次加入以周恩来为首的代表团，到重庆进行停战谈判，并出席政治协商会议。
全面内战爆发后，叶剑英担任中共中央后方委员会书记，积极协助中央领导全国范围的解放战争，为保证党中央和毛泽东等同志转战陕北、指挥全国作战作出了贡献。
1949年初，任北平市军事管制委员会主任兼市长的叶剑英和聂荣臻、彭真一起，促成了北平和平解放，在这一年的8月，叶剑英被任命为中共中央华南分局第一书记、广东军区司令员兼政治委员。其后，他和陈赓率领部队一路向南，从北平到广东，直奔故乡而去。