闻之上庸失守、孟达被斩之后，诸葛亮深为震惊，虽然打从孟达不听自己劝告的那一刻开始，他就已经对这种结果有所预料，不过当亲眼看到司马懿居然敢先斩后奏，仅有八天的时间就从宛城杀到新城，并在不到一个月的时间内就攻破上庸，这样的敌人实在是太可怕了。
不过同时诸葛亮也清醒的意识到，司马懿此时的主要任务是镇守荆州防备孙权和陆逊，他两次声名大噪的战役都发生在荆州战场，纵使曹睿不追究他未经请示就擅杀边疆大臣的罪名，朝中那些对他忌惮猜疑的人也不会坐视不管。
诸葛亮所料不差，司马懿将孟达的首级传于京师之后，魏国朝野掀起了极大的波澜。
曹睿看了司马懿的请罪奏章之后，明白了事情的始末，出于对司马懿的信任他并没有想要责怪的意思，反而还想大肆奖赏他，这时曹真站出来反对说：
“孟达造反一事尚没有完全定论，就算是确有其事，舞阳候也没有权利擅自动兵攻伐我国城池，更不要说杀害镇守边境的大将了。如果陛下因此时奖赏司马懿的话，那么就会开了一个很不好的口子，从而有增加武将相互攻伐的风险，还请陛下明察！”
不得不说曹真的话很有道理，从大局上考虑来说也不应该封赏司马懿，于是曹睿放弃了原意，命令司马懿在马上将所部人马撤回至宛城，然后以边郡新附、户口不实为由将司马懿请回京师洛阳征询意见，由襄阳太守孙礼暂代其职位，实际上是在无形之中削去了他的兵权。
这一点自然瞒不过司马懿，他也早就料到了会有这样的局面，不过他更加清楚的是曹睿之所以这么做，并不是完全出于他的本意，而是迫于朝野上下的压力而已，用不了多久自己一定会回到原有的位置，所以他心甘情愿的奉诏返京。
公元228年（蜀汉建兴六年）一月初，得知司马懿被削去了兵权调回洛阳之后，诸葛亮认为时机已经成熟了，于是便开始利用这段空档趁机发动北伐战争。
在起初商讨具体策略的时候，魏延提出了自己经由子午谷奇袭长安的大胆想法，但诸葛亮认为这样没有足够的把握，风险很大，所以没有同意。
而马谡却认为这是个好主意，于是在散帐之后他尾随诸葛亮回到了书房，企图说服他。
但这时司马昭却认为诸葛亮没有采用魏延的计策是正确的，他对马谡解释说：
“虽然魏延将军的计略有一定的道理，或许也能收到他所说的奇效，但同时风险也很大，此次北伐是丞相首次出兵，不可轻易弄险，否则不仅会让魏将军陷入进退维谷的境地，也会对军心士气造成很大的影响。”
马谡是个心高气傲的人，他不想被除了诸葛亮之外的任何人教训，更不要说是个十八岁的毛头小子了。或者说正是因为司马昭反对自己的观点，才会让他更加坚持。
可令他难以接受的是，诸葛亮最终并没有采纳他的想法，于是马谡一气之下拂袖离去。
最终诸葛亮采用了比较稳妥的方略：
先是公开对外宣称自己要从斜谷道攻取郿县，直接威胁长安，并以赵云、邓芝在箕谷作为疑兵吸引曹军的主力。而诸葛亮自己则亲率八万大军（对外宣称三十万）大举进攻祁山，从西向东、逐步蚕食。
当司马懿刚刚交出兵权到达洛阳时，便收到了诸葛亮亲自领兵攻打祁山的消息，很快陇右五郡中的南安、天水和安定三郡就叛魏降蜀，郭淮只好带着天水太守马遵坚守上邽，梁绪、尹赏、上官雝等皆归顺诸葛亮，天水郡参军姜维因被郭淮和马遵遗弃也只得投降。
短短不到一个月的时间，诸葛亮就取得了如此惊人的战绩，让魏廷朝野无不为之惶惧。
考虑到情势已经非常严峻，而司马懿又恰好在此时回到了洛阳，为了防止曹睿再度任命司马懿领兵前往陇右，大将军曹真主动请缨率领大军前去抵御诸葛亮的进犯，而曹睿在审时度势之后也同意了他的建议，并且亲自前往长安坐镇，派遣大将军曹真督军至郿县抵御赵云，而张郃则率兵五万从陈仓起兵，进入广魏郡策应已经被孤立的郭淮。
同时命令凉州刺史徐邈协同金城太守郝昭出兵东进，进攻南安郡，一场大战即将爆发。
攻下了祁山之后，诸葛亮率军进入了天水郡的冀县，并以此作为大本营指挥作战。
当时蜀郡的主力分成三个部分，其一包围上邽的郭淮、马遵，其二在广魏郡领土作战，其三则在南安郡阻击凉州来援的魏军。很快在蜀军的猛烈攻势之下，基本占据了整个广魏全境，而张郃的大军已经通过了汧县，正朝着广魏腹地挺进。
诸葛亮深知张郃是当世名将，他接下来的目的肯定是攻取咽喉要地街亭，从而切断蜀军和安定的联系，这样以来也会让诸葛亮完全从主动转为被动的境地。
左右权衡之后，诸葛亮准备启用拥有丰富经验的吴懿为守街亭之将，恰好司马昭也认为吴懿是沙场老将，应该可以胜任，然而正是因为司马昭的话，令马谡更加燃起了想要通过一战来重新赢得诸葛亮的重视，于是他马谡却站了出来极力要求自己来担任守卫街亭之职，并愿意立下军令状。
见马谡如此坚持，诸葛亮只好命他担任街亭守将，不过诸葛亮心中总是感觉到不安，于是预先想要了对策，并在马谡临行前再三嘱咐他街亭的重要性，一定要按照自己的计划防守，这样便可挡住张郃的人马，千万不要自作主张。
马谡表面上满口答应诸葛亮的话，但却根本就没有听进去。
诸葛亮也看出了马谡守街亭似乎会有变数，于是又作出了部署，命令头脑冷静的王平作为马谡的副将，高翔驻守街亭以西的列柳城，而魏延也另一军在街亭的东侧山谷作为接应。
尽管能做的都做了，但诸葛亮还是感到不安...
果然不幸被他给料中了：
马谡率军来到街亭之后，根本就不听诸葛亮“把守要道口”的战略思想，而是下令将大军全部屯守于南边的孤山之上。
为此副将王平苦苦相劝，却依旧没有被马谡所采纳。
无奈之下王平只好将马谡的行军布阵图飞马传回了冀县，诸葛亮看后顿时感到五雷轰顶，双腿的力气仿佛都被抽光了一般瘫坐了下来，站在一旁的司马昭见状连忙扶住了他。
只见诸葛亮的眼神之中充满了绝望，不断重复着相同的两个字：
“完了...完了...”
跟随在诸葛亮身旁这么长时间的司马昭，对于他的印象始终都是镇定自若、料事如神，还是头一次看到诸葛亮如此的悲观和失魂落魄。
走出了中军幕府后，司马昭无意间发现帐外不远处的土丘上，有个年约二十几岁的将军蹲在地上，伸手摆弄着大小不一的石块，他感到好奇便走到了年轻将军的身旁观看，结果看到这个人并不是普通的摆弄石头，而是将大大小小的石块摆成了军阵的样子。