决定出兵后，第一步便是决定留守之人，吕布左右一看，发现都是些新降之人，谁都不可靠，便将一直跟随在自己身边的五百精骑，还有新招的两千步兵留在城中，协同朝廷命官共同看护汝阳城。
自己则带着剩下的五百骑兵和八千士兵前往陈留，陈宫、郭图、逢纪、辛评随行。
待吕布来到陈留后，太守张邈将吕布迎入城中，一番寒暄后，吕布向张邈问道：“孟卓现在有多少兵马？可知曹操留在兖州的又有多少兵马？”
张邈答道：“我麾下共有一万士兵，本是用以防备荥阳徐荣的，当然现在用不到了。至于兖州，各地县城的士兵加起来恐怕也没有五千，只要你我二人振臂一呼，兖州各地官员必望风而降，归顺朝廷。”
吕布哈哈一笑：“好！事不宜迟，我等马上出兵吧。”
张邈点了点头：“正当如此！”
二人近两万兵马席卷兖州，兖州各地县令、太守莫不望风而降。
此事很快就传到了正在攻打徐州的曹操军中。
“报～兖州来信！”
曹操本在营中和众人商议军情，当看到信中的内容后，惊呃的站了起来，曹操显然没有想到，自己寄予厚望的张邈居然会背叛自己，忍着头疼，痛呼道：“孟卓误我啊！竟然和吕布小儿联手偷袭我的兖州！”
戏志才急道：“主公，不可在徐州逗留了，必须马上回防兖州。”
曹操红着眼睛，咬牙切齿道：“陶谦小儿杀我父母，此深仇大恨，安可就此罢休？”
“我本假意听从王正植之言讨伐徐州，待其出兵荆州之时，趁其空虚，可长驱直入，以救天子。可惜这陶谦老儿竟如此不明是非，我曹孟德今日就算拼着兖州失守，也要将陶谦碎尸万段，以解心头之恨！”
戏志才劝道：“我军孤军在外，若没有兖州后方的粮草供应，必不可持久，而徐州兵精粮足，短时间内根本攻不下来，到时若我军粮尽，吕布和陶谦前后夹击之下，我军必将死无葬身之地，又何谈为父报仇呢？”
其余谋臣武将不管于公于私，亦纷纷劝退。
毕竟自己的妻儿老小和财物也都在兖州呢，当然这话不能明说出来，没看到主公还在痛失父母的悲伤之中么。
之后曹操权衡利弊，下令全军拔营回防。
此时吕布、张邈二人已经拿下了兖州东部和中部地区，只剩下西部地区在荀彧的带领下坚守。二人因攻城消耗太大，而且曹操大军临近，便没有攻城，而是整军备战，以防止曹军的反扑。
曹操领着三万士兵在荀彧的接应下回到城中，在了解敌情后，休整了一夜，便命夏侯渊率五千士兵为先锋军，自己率主力紧随其后。
吕布依城而守，相持几日后，陈宫献计，令城中大户联系曹操，假意献城。
曹操轻信，于夜间进入城中，被吕布、张邈所伏，大败而逃，损失惨重。
之后曹操聚拢残兵继续和吕布、张邈相战于兖州之地，双方平分秋色。
青州的北海太守孔融见曹操被吕布牵制，便趁机招兵买马，攻略青州，并派遣使者与徐州陶谦交好。