杨广万万没想到的是，李世民竟然狂妄到首先对自己发起进攻。就在杨广带着天兴军顺着通济渠赶回东都时，唐军兵分三路开始了南征。
东路由长孙无忌统领，率五万大军自濮阳渡河南下，直取汴州。中路由李世民亲自率领自孟津南渡黄河直逼东都洛阳，西路由尉迟恭统领从河东西渡黄河，直取长安。虽然唐军来势汹汹，但是隋军却有着严密防御部署以及强大的黄河水师。
在北方造船业远不如南方，唐军难以打造大量适合在黄河水道上行驶的战船以及培养大量水手。但对于拥有江淮的隋军这个问题一点都不存在，大量适合黄河水道的战船以及训练有素的水手早就源源不断的通过通济渠进入到黄河。
杨广回到东都没多久。唐军就因为后方粮草补给难以运输到前线，导致李世民的东西两路大军过河不久就陷入进退失据的困境之中。
而李世民亲率的中路大军就更别提了，连河都过不了。与段达统帅的五万隋军府兵和一万骁果禁卫隔在孟津隔着黄河对峙。李世民恐日久生变，不得已，下令让东西两路唐军分别撤回河北，河东。
他这个决断可谓及时，只要再晚几天，杨广就会做出部署，完成对东西两路唐军的全面合围。
但是，侥幸逃出生天的东西两路唐军在隋军乘势追击下依旧伤亡不在过黄河过到一大半时又被赶来的隋军水师截杀，没能过河的全部被隋军斩杀或俘虏。
唐军对隋军的攻击就这样被轻易瓦解掉了，李世民一个战略目标都没达到，甚至连个隋朝粮仓都未能攻克下来。他只得沿着黄河匆忙做了防御部署，而后唐军主力分两路返回晋州和大名。
返回晋阳的李世民清点兵力后更是郁闷不已，此次南征不仅无功而返，还损失了近四万唐军将士。不过，让他感到庆幸的是，唐军中最精锐的五万玄甲军和长林军却是没有丝毫损失。他自信这玄甲军中的俱装铁骑，陌刀兵，还有长林军中的刀盾手，强弩兵乃天下第一强兵，这也是他向隋军发起主动进攻的底气所在。
杨广并没有给李世民喘息的机会，仅仅几个月之后，大业十六年的初秋。杨广亲率三万天兴军，两万骁果禁卫北渡黄河讨伐李唐。
同时为了保障后方以及侧翼安全和稳定，牵制住唐军东西两翼兵力。杨广令段达与王世充各自领兵两万隋军精锐分别从东边的濮阳与西边的郃阳渡过黄河，深入唐军腹地袭扰。因为是袭扰做战，所以他们并没有太大的后勤负担。作战形式通常是，每个兵士一次带够十日的特制压缩干粮，然后向唐军腹地进击五日行程，大约五六百里的路程，待所带给养消耗一半时再折返到黄河岸边，在那里可以得到隋军黄河水师提供的补给。
杨广与众将率五万大军渡过黄河后，几乎没遇到像样的抵抗，仅在大军刚刚渡河完毕时与迅速集结起来的三万唐军在河内郡爆发了一次大战，这次战斗仅持续了半个时辰，唐军就被全面击溃。除了近一万被斩杀外，其余唐军皆伏地而降。
此战之后，河内郡各县城池望风而降，甚至有远在魏郡的县城官长前来主动献降。但是杨广并没有向东走魏郡再北上取大名，而是在布置好河内郡的驻军和巩固好防御后，直接率领五万精锐穿过太行白陉，进入长平。
这次行军，穿越两百里的太行白陉是杨广最为担心的一段路程。
虽说白陉在太行八陉中是最为好走的一条陉道，但它毕竟是山路，沿途穿越险关要隘峡谷无数，这些地方都是设置伏兵的好地方。因此隋军在此行军，几乎是走一步看一步，步步为营向前推进，前方侦查确保没有敌人设伏后方才通过。
因此区区两百里路程，就让这五万隋军整整行进了十天。沿途每日设置的营垒刚好可以成为后续驻防部队的据点。为了保障这条后勤生命线的安全，杨广破例从天兴军中抽调了一千背嵬卫与后续的隋军一起驻守在这十个营垒据点之中。
当杨广看到长平郡相对平坦的盆地原野时，知道自己已经安全穿过太行山脉，他长长的舒了一口气。整个陉道上，只有若干唐军的岗哨和百余人规模的小型营寨，别说伏兵，连成建制的兵力都没有部署。这些岗哨和小型营寨被沈光所率的骁果军先锋营很轻松的就拔除了。
杨广有点不明白，李世民为何如此轻视白陉，这可是一夫当关万夫莫开之所在。不过经过一番认真思考后，杨广大概理解了李世民的苦衷。
作为李世民，他并不知道杨广的主攻方向在哪里，尤其是在东边王世充和西边段达两路对唐军腹地袭扰的隋军干扰下，杨广的主攻方向更有迷惑性。所以杨广是先打河北再打河东不得而知，若是打河东主力是穿越太行山脉进入河东，还是从关中的郃阳渡过黄河进入河东也不得而知，即使知道杨广是穿越太行山脉进入河东，是从太行八陉哪一陉进入河东还是不得而知。
同时李世民应是想毕其功于一役，试图一战就歼灭隋军的精锐主力。因此，李世民是希望杨广在深入唐军腹地补给线拉长后，再集中兵力与杨广决战。所以他不会将兵力摊开防御。
杨广的推测完全正确，此时李世民已在晋州的上党郡集结了整整二十万唐军，其中包括玄甲军，长林军五万人。上党郡的地形山地平原参差不齐。正是大规模会战时，有利于可先行预设阵地的守方之所在。李世民花费了十几天时间在此精心部署兵力，构筑营垒，就等隋军主力钻入这个陷阱。当他听到前方斥候传报，是杨广亲领大军御驾亲征时，欣喜若狂，似乎天下已是唾手可得。
五天后，三万天兴军和两万骁果禁军的前锋已经进入上党。双方最先接兵交战的是小股侦骑斥候。随着这种小股遭遇战越来越密集的发生，杨广心里也明白唐军主力就在前方，一场大战即将到来。