心中怀着对家中情况的忧虑，但此时司马懿已经没有那么的时间来安定内部了，作为曹操出征汉中唯一携带的谋士，在同年三月底跟随大军向陇上进发与夏侯渊会和。
五月，曹操的大军抵达了扶风郡，按照司马懿的谋划曹操和夏侯渊约定了出兵时间，但是不知为什么曹操的十万大军如此大规模的运动，竟在极为秘密的情况进行的，身在南郑的张鲁居然毫不知情。
早在公元214年结束了濡须坞的对峙之后，司马懿就向曹操建议分批将用来进攻汉中的十万大军分批以调防的名义驻扎在扶风各郡县，并且假意以和张鲁联合对抗占据巴蜀并自封为益州牧的刘备为借口向张鲁主公示好，许以伪诺不会进攻汉中，并唆使张鲁趁着刘备立足未稳之际入侵巴东、巴西两地。
而之前司马懿就从庞统生前给予自己的宝贵情报中，获知了东吴将会在刘备全面夺取巴蜀之后提出索还荆州（主要指南郡）的要求，可刘备的野心正在逐渐膨胀之中，根本不会理睬孙权，再者孙权也不会坐视刘备独自壮大而自己颗粒无收，双方摩擦在所难免。
如果曹操贸然撕毁和张鲁的盟约进攻汉中的话，那么势必会逼迫张鲁和刘备结成攻守同盟，到那时曹操的大军如果强攻就会损耗巨大，若是退军刘备必会乘胜追击，甚至还会不惜与孙权瓜分荆州为条件重新与江东联盟东西两线分头北上。
因此曹操大军秘密屯守与散关之外，目的就是为了在等刘备和孙权爆发冲突的时机。
然而时机很快就到了。
同年四月，得知庞统之死而深感懊悔和惋惜的鲁肃大病一场，这时候主战派的鲁肃和甘宁等人力劝孙权应当派使进入成都，敦促刘备履行夺取巴蜀便会归还南郡的承诺，如果还不归还的话就立刻以此为口实发兵攻打荆州，以武力夺回南郡。
此时的孙权也眼红刘备取得了如此巨大的胜利果实，便同意了吕蒙的提议。
东吴的使者到达成都之后迫不及待的传达了孙权的意图，而刘备却以夫人孙仁献趁着他率军进入益州之时，竟然企图拐带刘禅回东吴为借口对使者大发雷霆。
这时诸葛亮认为曹操很有可能在观望孙刘双方是否会起冲突，所以审时度势的建议刘备不该和东吴起正面冲突，更何况南郡这个地方将来必是孙刘曹三方相互争夺的战略要地，此时刘备拿在手中是要付出极大的代价和压力的，同时他也发现了关羽有大将之才却一身傲骨的本性，南郡若是在他的手中将来一旦西边战事对刘备有利，好大喜功的关羽必定会贸然突进，造成无法挽回的局面。
因此诸葛亮以毕竟目前孙刘联盟是不能破裂，应当合力对付北方的劲敌曹操为由力劝刘备暂时归还南郡，一者可以巩固孙刘联盟，二者也可以将荆州的压力交由孙权来承担。
但是让刘备放弃战略要地南郡对他来说是万万舍不得的，冷静下来之后他收起了先前的暴躁脾气开始对东吴使者缓和态度，但他没有答应诸葛亮的提议暂时归还南郡，而是对使者说等到他夺取了汉中和凉州之后再行归还南郡。
得到这一回复的孙权十分震怒，而早就知道刘备不会归还南郡的吕蒙趁此机会建议孙权尽快发兵夺取荆州，并且阐述了刘备的主力现在都在益州，平定各方叛乱尚需时日，而荆州的关羽只有三万兵马，守备并不算严密，对此吕蒙表示自己有把握。
为了让出兵更加名正言顺，孙权先后派遣了三拨官吏前往长沙、零陵和桂阳，最终遭到了关羽野蛮的无理驱逐。恼羞成怒的孙权见刘备如此言而无信，便准备同意吕蒙的建议，协同甘宁和鲁肃发兵攻打长沙和桂阳。
正当兵符即将要交接之时，拖着病体的鲁肃却力阻孙权挑起荆州战事，理由几乎与诸葛亮的出发点是一样的，更何况庞统生前特地与他预先埋下的点，也还没有到爆发的时候。
为了安抚孙权被激怒的情绪，鲁肃提议由自己亲自前往荆州以礼说服关羽归还南郡。
双方约定于两军阵前举行会谈，并提前规定所有与会者都只能佩戴单刀，不准携带其他护卫，这也就是后世口中经常提及的“单刀赴会”。
然而这次会谈却进行的并不愉快，双方唇枪舌剑互不先让，在得到刘备所下达“荆州之地，寸土不让”的支持下，加上益州也被刘备占据，使得关羽的底气显得很足。而鲁肃方面在孙权执意要收回南郡的前提之下承受的压力也很大。
尽管鲁肃苦口婆心的劝说关羽应当以信义和孙刘联盟的稳固为重，但是关羽却丝毫不为所动，对于所提出之条款全数予以否决，双方最终不欢而散。
这下子势必要收回南郡的孙权没有了选择，他立刻下令由吕蒙督导大军攻打荆州。
得到命令的吕蒙为此欣喜不已，但是他知道自己面临的是刘备帐下的虎将关羽，想要取胜并没有绝对的把握，这时候他想到了身在吴县的陆逊，便借探望之机求教与他。
听了吕蒙意图用武力攻打长沙、桂阳和零陵三郡时，陆逊忍不住笑了起来，这让吕蒙百思不得其解：“伯言何故发笑呢？”
陆逊止住笑容回答说：“我笑将军何须如此费时费力呢？在我看来最起码长沙和桂阳两郡是可以不费一兵一卒就可以唾手夺取的，何必派兵攻打？”
吕蒙不明白陆逊的意思，急切的追问道：“那依伯言之见，我当如何？”
对此陆逊表达出了自己的看法：
“刘玄德素以仁义立世，但反客为主夺取刘璋领地在前，违反约定不还南郡在后，已然对他的声名造成了一定程度上的破坏，关羽主要的兵马屯守于公安，对于长沙、桂阳和零陵来说防备是很薄弱的一环，将军可以做两手准备：其一，在长沙、桂阳以及零陵三郡大造舆论，将刘备出尔反尔一事公之于众，从而搅乱当地的军心民心；其二，将军亲率兵马造成大军压境之相，从而让当地百姓造成强烈的恐慌。如此以来，三郡可不战而降。”
后吕蒙采取了陆逊的提议，果真长沙、桂阳两郡过半郡县望风而降。除此之外，孙权还亲自驻军陆口督战，并派鲁肃率兵一万余人驻守益阳，阻止关羽南下增援。
身在蜀郡的刘备发现荆州的战事推进的如此之快，并且正朝着对自己不利的一面发展，于是开始紧张起来，慌忙之下他亲自率领兵马赶往公安声援关羽。
诸葛亮认为刘备此举解决不了根本的问题，反而会让北方的汉中突生变数，所以力劝刘备不要再激化与孙权之间的矛盾，以免给曹操可趁之机。