曹魏大敗於石亭，消息傳到漢中，諸葛亮認為這又是一次難得的機會，於是決定第二次北伐。
這段時間諸葛亮一直在漢中厲兵講武，為繼續北伐做著準備。從第一次北伐失敗的情況看，兵力不足似乎是一個問題，有人勸諸葛亮增加兵力，諸葛亮不同意：「當初我軍無論在祁山還是箕谷，人數都比敵人多，不能破賊反而為賊所破，原因不在於兵少，在於我一個人。如今我想精減兵將，明罰思過，今後能靈活變通。如果不能這樣，即使兵多又有什麼作用？從今以後，諸位要為國盡忠謀慮，要經常指出我的不當之處，那麼大事可成，賊可死，勝利指日可待！」
要增加兵力，就要加大在益州各地徵兵的力度，但諸葛亮非常瞭解益州的實際情況，在人口總量有限的情況下，大量增兵意味著增加百姓的負擔，為這次北伐，已經臨時對徵兵工作進行了調整，在常備軍八萬名員額的基礎上有所增加，如果再增兵，那就超過了國力所能承受的極限。
按照諸葛亮的想法，兵不僅不能再增，還要精減兵員，在數量有限的前提下，把提高部隊戰鬥力的突破口放在加強訓練上，以此彌補自己的短板。
諸葛亮考慮到，孫吳在東線戰場得手後曹魏上下必然十分緊張，將極大地牽制魏軍主力，讓他們不敢大量向西線戰場增兵，現在再次舉兵北伐正是最佳機會。
但是年初剛從隴西敗回，不到一年又要北伐，勢必會有一些人不理解，為了統一思想、堅定決心，諸葛亮再向後主劉禪上了一份奏表，重申北伐的意義，向後主同時也向蜀漢民眾解釋又要北伐的原因。
這就是《後出師表》，在這份奏表中諸葛亮首先申明了先帝的遺志，表明不北伐沒有出路的道理，否定那種「王業偏安」的思想，認為不征伐曹賊先帝所創建的事業就會丟掉，與其坐著等待滅亡，不如去討伐敵人。
在這份奏表的最後，諸葛亮還說：「我將小心謹慎地為國家奉獻出我的一切，直到死為止。至於事業是成功還是失敗，是順利還是不順利，那就不是我的智慧所能夠預見的了！」
前一份奏表讀起來激昂熱烈，與之相比後面這一份奏表或許更重說理，因而顯得氣勢不如之前，言語之中也多了許多悲壯。這是因為，首次北伐遇挫對諸葛亮的心理勢必產生不小的影響，他更清楚地看到敵我之間力量對比上的差距，所以《後出師表》強調了困難，強調了完成先帝遺志的艱巨性，但是決心未變，理想未變，勝利的信心也未變。
仔細品讀《後出師表》，看到的是一個更加真實的諸葛亮。這份奏表中多次談到曹操一生遭遇過的失敗，似乎隱約透露出諸葛亮此時面臨的處境，雖然不會有人公開談論他的過失，但第一次北伐就以失敗而告終，他面臨著很大的壓力。諸葛亮希望大家理解失敗是正常的，尤其對手那麼強大。
蜀漢建興六年（228）秋天，諸葛亮第二次北伐。
在路線選擇上諸葛亮進行了調整，這一回沒有再出隴西，而是兵出大散關，由此直插陳倉，該地即今陝西省寶雞市，是關中西部的門戶，也是關中通往巴蜀的樞紐。
不選擇再出祁山至少有三個方面的考慮：一是蜀軍在隴西新敗，再去那裡大家心理上多少會有些障礙；二是隴西各郡降而復叛，曹魏再次收復後親蜀漢的勢力盡被清洗，再去不會得到之前那樣的歡迎；三是此次必須抓住戰機，趁魏軍被其他戰場拖住的機會發起突然進攻，出隴西過於遲緩。
本來，秦嶺山中有子午道、儻駱道、褒斜道等三條棧道通行，魏延曾建議由子午道北伐，被諸葛亮以太多冒險而否決；儻駱道年久荒廢，很難行走；褒斜道倒是一個不錯的選擇，但幾個月前趙雲、鄧芝經此道撤退時把棧道全燒了，目前還來不及修復。
所以諸葛亮沒有太多的選擇，只能走大散關。
對手也清楚這一點，曹真重新收復隴西後已經料到諸葛亮再次北伐一定會走陳倉這條路線，所以事先做出了準備，派郝昭、王生守陳倉，加緊修整守城工事。郝昭字伯道，并州刺史部太原郡人，為人雄壯，年輕時就加入軍籍，多次立下戰功，從部曲督一步一步升為將軍，說起來也不是無名小卒。
曹操病逝前後武威郡發生了叛亂，武威郡太守毌丘興向金城郡太守蘇則求援，蘇則認為叛軍雖然氣勢很旺，但人心不齊，如乘機進攻，叛軍內部必然發生分裂。郝昭當時是金城駐軍將領，上面命令他原地駐防，不得西渡，郝昭根據當時的形勢做出判斷，支持蘇太守的建議，違令救援武威郡，結果把叛軍打敗。
郝昭鎮守河西地區十多年，當地漢人和外族都表示順服。在魏將中郝昭的名氣遠不如張遼、張郃，很大一個原因是他久在河西地區服役，內地知道他的人並不多，但他絕對是一名出色的職業軍人，久在軍旅、經驗豐富，敢打敢拚，又深得帶兵之道，是打仗的一把好手。
郝昭駐防後立即準備守城器具，等待蜀軍的到來。
蜀軍來了，總兵力接近10萬人，而陳倉城裡的守軍只有1000多人。
按理說城裡的人應該望風而逃，因為這個仗根本不用打，也沒法打。諸葛亮開始也不想打，他聽說一個叫靳詳的人跟郝昭是太原郡老鄉，關係不錯，就派他去勸降。
靳詳到了陳倉城外，郝昭站在城樓上對他說：「魏朝的法律先生都熟悉，我的為人先生你也都清楚。我受到的國恩很重，而家族的人口也多，你就別再說了，我只求一死。請回去轉達我對諸葛亮的謝意，請他直接來攻城吧！」
說得很實在，靳詳只得回來稟報諸葛亮。諸葛亮不想放棄，又讓靳詳去勸說，告訴郝昭實力無法匹敵，不要做無謂犧牲，郝昭這次對靳詳說：「前面已經都說完了，我認識先生，箭卻不認識你！」
諸葛亮只得下令攻城，一場最著名的攻防戰打響了。
攻城的一方佔有絕對優勢，勢在必得；守城的一方信心十足，誓死守住，仗打得很激烈。在冷兵器時代，主要的攻城方法有三種：一是用雲梯、沖車直接進攻，通過雲梯往城牆上爬，用沖車撞城門；二是在城外樹起高樓，高度超過城牆，站在上面朝城裡射箭，使守軍所依賴的城牆高度優勢喪失；三是往城裡挖地道，辦法笨一些，但隱蔽性高。
這三招蜀軍都用了，卻未能奏效。守軍用燃著火的箭逆射雲梯，雲梯著火，梯上的人都被燒死，又用繩拴上石磨砸沖車，沖車被砸折；對樹在城外的敵樓，守軍通過不斷加固城牆的辦法抵擋住進攻；對地道，守城的人也挖，他們橫向挖，將攻城的地道阻截。
20多天過去了，陳倉城仍未攻破。
一耽擱，曹魏的援軍就到了。
這次來的不是曹真，仍然是左將軍張郃，本來他已重新歸司馬懿節制，駐紮在方城，這次魏明帝又調他率部增援陳倉，之所以做出這樣的安排，大概曹魏方面還沒有完全看清蜀軍的意圖，擔心陳倉是佯攻，所以曹真在長安沒有輕舉妄動。
張郃第二次成為「救火隊隊長」，他率3萬人馬從方城星夜往關中趕，路過洛陽時魏明帝特意在城南設宴為他洗塵，張遼、徐晃、樂進、於進等名將已先後辭世，魏明帝對張郃格外看中。
席間，魏明帝問援軍到後諸葛亮會不會撤軍，張郃說：「諸葛亮孤軍遠征，糧草困難，臣料想不等我方援軍到達，諸葛亮自己就會撤退。」果然如張郃所料，諸葛亮主動撤軍了。
第二次北伐就這樣匆匆結束，又是一次勞而無獲，唯一的勝利是在回師途中將追擊的魏將王雙斬殺。
陳倉一戰讓郝昭成名，魏明帝賜郝昭為列侯，並親自召見。郝昭到了洛陽，魏明帝對他十分讚賞，召見時朝廷中書令孫資也在場，魏明帝知道郝昭和孫資都是太原郡人，高興地對孫資說：「你們太原郡有郝將軍這樣的人才，朕還有何憂愁？」但郝昭不久就因病去世了。
史書上也記載，郝昭臨終前對兒子郝凱說：「我為將，深知為將的不易，我幾次挖掘別人的墳墓，用棺材板做攻戰用具，知道死後厚葬對死者沒有用。所以，一定在我死後下葬時用普通的儀式就行了。人啊，活著的時候有處所，死了要那些有什麼用呢？把我葬在離本族的墓地遠一些的地方，不管東西南北，你自己安排就行了。」
魏明帝對郝昭的死深表痛惜，悲傷之情超過對普遍大臣的禮制，為此飯量較平時減去不少。
陳倉之戰，10萬人用了20多天沒有攻下1000多人防守的一座縣城，算是一個敗仗了，這成為諸葛亮軍事生涯的低谷，有人非議諸葛亮的軍事才能常以此為例。
有人認為陳倉之敗緣於指揮失誤，如清人曾國藩說：「孫權攻合肥，被張遼打敗；諸葛亮攻陳倉，被郝昭打敗。這都是開始勢頭太猛，銳氣過後而衰竭。」也有人認為陳倉之敗緣於攻城的不易，如元人胡三省說：「攻城很困難，守城相對容易。如果評論攻城和守城誰更優，基本上都會傾向於守城的一方，不是能守城的人的才能優於攻城的人，而是由主客位置所決定的，所以從用兵上看，攻城是最難的事。」
「守則不足，攻則有餘」是《孫子兵法》裡的話，道出了冷兵器時代城池攻防戰的艱辛，曹操為這句話作注時也說：「我們之所以要守，是因為能力不夠；之所以攻，是因為能力有餘。」之前講到過，袁紹、曹操等人都有面對孤城久攻不下的記錄，有的長達數月甚至一年。陳倉雖是漢末的一個縣城，但歷來是軍事重鎮，漢靈帝中平五年（188）11月涼州人王國舉兵起事，重兵包圍陳倉，結果攻打了80多天未破，只得退去。
郝昭駐守陳倉後對城池進行了加固，在陳倉舊城附近新修了一座新城，這座新城建在一塊台地上，後倚原麓、前橫高岸，依勢所築，地險而城堅。這樣的城池20多天打不下也正常，不能因此就否定諸葛亮的軍事才能。
而且，對諸葛亮發起此戰的意圖還有另外一種理解。
從戰術上看，3萬增援的魏軍在張郃率領下馳援陳倉，當時蜀軍有10萬人，似乎可以一戰，但諸葛亮退得很乾脆，似乎說明這裡面另有隱情。
當看到諸葛亮寫給哥哥諸葛瑾的一封信時，似乎找到了這個疑問的答案，這封信容易被大家忽視，因為正史都沒有收錄，它保存在一部地理志裡，諸葛亮在這封信中說：「有一個叫綏陽的山谷，山崖險要，溪水縱橫，行軍困難。以前偵察兵在一帶往來，都走的是險要的小道。現在我命令先頭部隊砍伐樹木，修建道路，以便通往陳倉，足以牽制敵人，讓他們不能分兵去進攻孫吳。」
從信的內容看應該寫於陳倉攻城戰打響前，這封信至少可以說明幾點：一是在大戰即將拉開帷幕的時候，諸葛亮還在與遠在孫吳的哥哥通信，保持著信息上的溝通；二是此次北伐諸葛亮也做了大量準備工作，派出偵察人員前往陳倉一帶做過偵察；三是信中特意講到蜀軍的行動可以起到牽制魏軍的效果，讓他們不能分兵攻打孫吳。
尤其是第三點，透露出蜀軍此次軍事行動的目的就是配合孫吳，所以大戰將至的緊張時刻諸葛亮還有精力給哥哥寫家書，因為這不是普通的家書，而是通過哥哥向盟軍通報情況的重要信函。
劉備死後吳蜀重新交好，在軍事上雙方多有配合，諸葛亮第一次北伐期間孫權也出兵牽制了曹魏，這種配合應該是雙方面的，既有孫吳配合蜀漢，也應該有蜀漢配合孫吳。
石亭之戰發生在曹魏太和二年（228）農曆八月，是秋天，諸葛亮第二次北伐也在這一年的秋天，從時間上看兩次軍事行動是同時醞釀的，周魴詐降從5月就開始了，因為高度機密，事先不大可能把細節都通報給蜀漢，但可以知會蜀漢方面正在籌劃一次大戰役，請這邊出兵攻打曹魏的西線，減輕孫吳的壓力。
諸葛亮接到孫吳方面的請求後就立即行動了，在西線戰場發起進攻，不僅牽制了西線戰場魏軍總指揮曹真，使其不敢亂動，而且調動原屬荊州戰場的張郃率部回援。
諸葛亮的戰略是，如果進軍關中順利，不妨直搗長安；如果不順利，也能調動魏軍主力，配合盟友的行動。後來魏軍增援部隊趕來了，這時孫吳那邊也完成了石亭大捷，諸葛亮也就沒有戀戰，迅速回防。
所以，對於這次「大敗而歸」，一向嚴於律己的諸葛亮沒有再次做出反省或自罰。