关羽麾下士卒家眷皆在兖州，听关羽要往兖州自然纷纷应诺。至于荀谌的嘱咐，众将士谁也没提，一个死军师和一个活将军，将士们自然是听关羽的。而关羽不听荀谌劝告也是性格使然，他觉得若不能夺回兖州便无法向刘备交代，纵然此去千难万险也不愿有负刘备所托。当然关羽也有一些侥幸心理，觉得夺回兖州还有希望，所以一面回兵，一面遣人星夜往豫州、并州求援，想要三路兵马一同夺回兖州。
人马正往前行，忽然前方喊杀声大震，一队军马拦住关羽去路，为首大将正是陈武。陈武勒马挺枪大叫道：“云长何不早降！”
关羽大骂道：“手下败将也敢寻死！我乃汉将，岂可降贼！”言罢拍马舞刀，直取陈武。
陈武上前交战，不到十合拨马败走。关羽提刀追杀十余里，忽喊声又起，左边山谷中周泰领军冲出，截断关羽后路，陈武回马复战，原来陈武假意败退乃是诱敌之计。
关羽腹背受敌无法兼顾，只能挥军突围而走。经此一战关羽兵马又去一半，还有五千余人。关羽寻思周瑜人马还在邺城之下，便绕路往兖州而行，好在先前陈武诈败之时为求逼真留下一些粮草，关羽士卒才不用劫掠为生。
绕过邺城之后，关羽刚松口气，便见两边山坡之上伏兵四起，左有周瑜，右有凌统，便见周瑜羽扇纶巾，手指关羽道：“云长将军往哪里去？前方兖州已为我主所有！我在此等关将军多时矣！”
关羽一见周瑜双目冒火，大骂道：“无义之徒，速来受死！”说罢便策马往山坡上冲杀。
周瑜见状不急不怒微微一笑，吩咐士卒放箭。两边山坡士卒一同开弓射箭，滚木擂石纷纷滚落。关羽拨打雕翎，无法靠近周瑜，只得败阵而走，五千士卒又折了两千余人。
凌统见关羽要走便要去追，周瑜喝止道：“公绩莫往！你身上有伤岂是关羽对手？”
凌统不甘心道：“我等军马是关羽十倍，岂可轻易放过？”
周瑜笑道：“困兽犹斗，穷寇莫追，我等不损一兵一将能留下关羽两千兵马也该知足了。前方自有人会要关羽性命。”
凌统闻言不再多言，他哪里知道周瑜不是不想追击，而是无将可用。周瑜可不认为自己和有伤在身的凌统能挡住关羽。
关羽引着三千余败军跑了一阵，见吴军没有追来才松了口气，于是又往前行。眼看进入兖州地界，山崦内又有两军撞出，左边潘璋，右边董袭，各领一万军马杀出。原来二将奉吕蒙之命来助周瑜，周瑜便命二人埋伏在此，专候关羽到来。
潘璋、董袭见关羽士卒狼狈不堪，关羽本人也没了往日威风，胸前的美髯都被血水浸红粘连到了一处，于是便以为关羽好欺，一齐挺枪举刀双战关羽。
关羽见两个二流武将把自己当成了肥肉，竟然皆要先杀自己争功，不由心中大怒。挥舞青龙偃月刀力敌二将。
潘璋、董袭若是稳妥一些，利用埋伏的时间设下陷坑、绊马索，未必不能擒住关羽。可是二人有争功之心，又有些小看关羽，便没有设下陷阱，想要阵前斩将。如果二人通力合作又有大军在侧，也未必敌不过疲惫的关羽，可是二人各自为战就不是关羽的对手了。
世上没有那么多如果，也没有卖后悔药的。正是因为潘璋、董袭轻敌，才被关羽抓住破绽各个击破，不到二十合先杀退了潘璋，又战十合杀退董袭。关羽再次领兵突出重围，此时再回头看，身后士卒只剩千余。
看着身后浑身浴血的千余士卒，关羽不知自己该不该再往前行。关羽心中明白，就凭这些士卒，无论如何也拿不下兖州。此时他有些后悔没听荀谌之言，若用荀谌之计，自己可能兵败丢脸，但至少可以保全大半士卒性命，说不定这些士卒还能帮上张飞，结果总比被一路围杀枉死的好。
就在关羽立在兖州界口犹豫不决之时，道边树林之中突然钻出几个士卒，高声问道：“前方可是二将军兵马？”
关羽见状一愣，忙将几个灰头土脸的士卒唤到跟前问道：“你等是何人？因何藏于密林之中？”
为首的士卒抹了一把脸上灰泥道：“二将军，我等皆是兖州士卒，专为在此把守烽火台。皆因吴兵犯境，我等才不得已藏身在此。”
关羽闻言心中大怒，呵斥道：“吴兵犯境，何不举火？”
士卒苦着脸道：“吕蒙遣人尽穿白衣，打震远镖局旗号，扮作行商、镖师，诈入烽火台，因此各处不得举火。”
震远镖局的声誉闻名天下，虽不能说没有丢失过一单货物，但就算货物遗失也会加倍弥补货主损失。各地百姓对镖局、镖师、钱庄的信任程度甚至大于官府和官兵，也难怪吕蒙假扮商人镖师可以屡屡得手。
关羽听完前因后果愈加恨怒，想到自己既然已经选择来到兖州，何不讨吕蒙要个说法？就算不能夺回兖州，能诱吕蒙出城杀之，也好解心头之恨。想罢关羽便起兵往昌邑而行。
潘璋、董袭一败，吕蒙便在城中闻知关羽入境。当得知关羽只剩下千余人马时，吕蒙并未轻视，反而吩咐士卒下去准备。并传下号令：凡兖州诸郡，有随关羽出征将士之家，不许吴兵搅扰，按月给与粮米。有患病者，遣医治疗。将士之家，感其恩惠，都愿助吕蒙行事。
这一日有人来报吕蒙关羽兵临城下，吕蒙于是登城而望。关羽在城下见了吕蒙大怒责问道：“吕蒙狗贼，我等两家约好共诛曹丕，如今你却助曹而袭我，是背盟也。你这背信小人可敢出城与我一战？”
吕蒙闻言脸不红，气不喘，在城头笑道：“云长将军岂不闻兵者诡道也？你若有计策夺我徐、扬二州自可去取。来人，摆阵。”
随着吕蒙一声令下，竟有不少士卒家眷走上城头，城上竖起一面白旗，上书“兖州百姓”四字。众家眷走上城头之后都叫自己家人速速投降。