虽然第一次北伐遭到惨败，但是萧衍并不甘心。9年后（514年），他决心夺取北魏重镇寿阳（今安徽寿县）。淮河南岸的寿阳城地处兵家必争之地，北魏占领寿阳可以不断越过淮河攻击南方，南梁夺取寿阳，安定后方，才可以从容北伐。北魏在寿阳有重兵把守，直接进攻难以得手。
萧衍想出一条“妙计”，准备水淹七军。他下令在寿阳下游的浮山（在今安徽枞阳县境）建立拦河水坝。水坝蓄住淮河水，上游水位肯定会提高而泛滥，这样寿阳城就会被淹没，这样南梁不费吹灰之力就可以取得胜利。这个计策确实高明，但是工程部门官员经过核查后，提出警告说，淮河里面全是松软的泥沙，地基不稳固，建水坝的话，容易倒塌。萧衍一意孤行，决定冒险施工，征发了20余万人，没日没夜地干了起来。
工程持续了一年半（从514年11月开工，到516年4月完工，中间返工一次），劳工累死病死的成千上万，结果总算筑成，水坝长约4.5千米，可算惊人的工程奇迹。9月份的雨季来临，拦河大坝果然作用非凡，河水的水位不断上涨。可惜还没有泛滥淹灭寿阳城，水坝自己倒先崩溃了。拦河大坝下游成为一片泽国，两岸村落的居民10余万人被洪水吞没，这些人大多是南梁的子民。这样北魏不动刀兵，南梁的民众却因为皇帝的“妙计”，死伤在20万人以上。