７月２８日，统帅部综合了水利专家和**的建议后，制定了消灭日军主力的一揽子方案。山西的主要城市除晋城之外，都是盆地，非常有利于我军水攻，并能在一定才能程度上把黄河水储存起来，减少受灾面积。运城、太原、忻州、大同、潞安（长治、上党）、临汾六大盆地，同时也是山西的战略要地，日寇必将重兵把守，而从目前态势来看除了晋城４～５个师团可能要硬啃，其他在太原的３～４个师团，运城的２０师团、忻州的第２师团、临汾第６师团、长治第７师团以及大同第１６师团基本上都可以全体解决。更有利的是，此次可能歼灭的日寇多为日军绝对主力师团（１１个）只有１０６、１１２师团属于预备队性质但是战斗力绝对不弱，所以务必不要放过一个敌人。在河水泛滥后，第８路军主力立即东进，攻占集宁、大同、与第１路军会师并完全且对山西日寇与东北日寇的联系。第５、７路军围剿山西境内的残余日军。此次计划一旦成功将一举扭转全国战局，我国将由战略防御变为战略相持。而第３路军西进两广，威慑在我国南部的日军，至于东部小股日寇让陈明仁小心便是。最终决定：７月２９日１９点整决开壶口东堤，并把掘开万家寨的时间交给**决定。

太原，山西日军总指挥阿部规秀近来觉的一切都太顺利了，战场也太平静了，似乎有什么重大的阴谋在等着他，前两天支那人在补给线上闹腾得这么厉害，这几天又突然销声匿迹，明知我军正在集结，却躲藏到山里去，就让我们舒舒服服地集结。他对着沙盘注视了半天，又翻了翻这几天送来的情报，唯一有价值的就是“直那正准备在山西施行新的土地法，并认为不可能触犯当地地主的利益，因为当地很快就没有地主了，具体原因不明……”现在我军在山西重兵集结，当地地主也不少，难道有办法让我们让这么多人在很短的时间里消失？这时一个勤务兵进来送茶，由于阿部心不在焉，水洒了一地。阿部看见水觉得好像想到什么了，又看看沙盘，山西六大盆地赫然在目，自己的主力也大多集中在凹下去的地方，而在山西的西部边界一条长龙似乎在怒吼，一条养育了中华民族几千年的巨龙似乎正在吞噬着他二十几万大军，阿部也算熟读三国，对于水淹七军的后果看得还是很清楚的……

“命令部队，先往地势高的地方撤，然后撤出山西！越快越好！”阿部规秀歇斯底里了一番，此时是２９日１７时。在第一时间，阿部规秀的命令传达到各部队，同时还加了一句：“不要问为什么，执行命令，这不是演习！”同时告知统帅部，并表示愿意承担一切后果，具体原因容后再报。只要是接到命令的人第一反应阿部是不是脑子进水了？下级军官迫于上级压力，不得不执行命令；上级由于将在外，军令有所不受，也无可奈何。大同的１６师团迅速集合队伍，最终于２０时开始撤离大同，但其他各师团由于种种原因，无法在短时间内完成集合、撤退，所以也失去了撤往高地的最佳时机。

１９：００随着我一声令下，壶口大堤随着一声巨大的声响，决开了约２０米的大口子，滚滚黄河水汹涌而下，不久，运城、临汾开始积水。此时日军指挥官才真正领悟阿部规秀命令的用意。而我军的前线指挥官在得知上级着真正意图时，既惊讶又兴奋。８路军在宁武、５路军在代县都组织了敢死队，迟滞日军北逃。**在得知日寇有疯狂北逃的意图后，果断命令万家寨立即决口。使日军最终再逃出２个师团（主力）后，再也没能迈出长城半步。

当夜，**派了一个特务团，身穿日寇军服尾随北逃日军进入集宁，由于当时日寇得到了主力部队遭到洪水袭击，加之３个师团狼狈不堪的迅速进入集宁，所以也被我军混入。夜里我军埋伏在集宁各主要工事附近，３０日一大早，**亲率８１军主力攻打集宁，特务团又适时散布我军主力（约３０个师）尾随而至，撤下来的日军本来就已是惊弓之鸟，再加上谣言越传越真，主要工事又相继失守，军心动摇，在我军里应外合之下，东逃林西准备与关东军会合。**进入集宁也没继续追击，只是派人与第一路军联系。至此，山西日军被彻底切断与后方的联系。同时忻州、太原日军主力已不复存在；临汾、长治水势正在继续缓慢上涨。运城被迫日军集中在城东北一片不大的高地，只有晋城的４个师团由于地势较高，凭借相对充裕的补给，仍有较大的战斗力，负隅顽抗。