對於張作霖而言，如果能夠直接從美國買到孟祿所說的那種機關炮，自然是求之不得的事，但當時國際社會已經達成了禁止供給中國武器的協定，他就是拿出再多的錢，美國人也不會把武器賣給他。這樣，他就只能向日本提出購買軍火的請求。
日本原先認可的是段祺瑞的皖系，與曹、吳的直系彼此敵對。見直系獨霸中原甚至隨時可以出關，他們唯恐損害到自己的「滿蒙利益」，因此大力支持張作霖整軍備戰，並以「善意援助」的名義，想方設法把價值數百萬元的軍械轉賣給了張作霖。不過此事暴露後，立即遭到英美各國的強烈反對，日本政府決定改變方法，授魚不如授漁，「協助他（指張作霖）自設兵工廠，以求自治」。
東北兵工廠很早就已設立，但在直奉戰爭前規模並不大，此後日本政府委託日本兵器會社向其供應了大量機器設備，在日方的幫助下，兵工廠的規模比以前擴大了數倍。張作霖接受了設備，然而當日本擬進一步提供人力支援，向兵工廠派出兵器顧問團時，卻遭到了他的婉言謝絕。
張作霖的心態就像日俄戰爭時期一樣，他是想盡可能利用日本人而不被日本人所用，很顯然，如果在日本人的「盛情相助」下陷得太深，這種平衡就必然要被打破，所以他絕不能再往前走了。好在設備雖然必須從日本進口，但人才還可以從其他地方尋覓。張作霖首先起用了兩個管理人才，他派楊宇霆兼任兵工廠督辦，派韓麟春兼任兵工廠廠長。
楊宇霆就不說了，不僅精明幹練，敢於負責，而且「學通今古，識洞中外」。韓麟春是楊宇霆的同學、士官學校炮兵科畢業生，還曾經到歐洲參觀學習，擁有比較廣博的軍事和兵器知識，據說他改良了一種手槍，功效很好，後經兵工廠製造，曾由北京政府通令全國軍官統一佩帶。
在楊宇霆、韓麟春的共同主持下，東北兵工廠除了從德國、捷克聘請高級工程師外，還從漢陽、上海的老工廠挖來許多老技師、大工匠。這些外聘人才待遇優厚，宿舍住漂亮洋房，每月薪水發的也不是奉票，而是全國通行的現大洋。關外在當時很多人眼裡是出「鬍子」的地方，一些南方的技師工匠加盟東北兵工廠純粹是為了多賺些錢，他們以為自己在奉天不會待得太久，沒料到來了之後卻立即有賓至如歸、樂不思蜀之感，於是互相援引，又從南方招來不少工匠。一時間，東北兵工廠人才濟濟，儼然成了國內武器專家的人才庫。
東北兵工廠最終被打造成了同時期國內最大的綜合性兵工廠，其規模之宏大，設備之完善，連日本人都為之側目，稱之為「東方第一」的兵工廠。它不但能製造一般槍械彈藥，而且能出產山炮、野炮。其間還增設了一個迫擊炮廠，限於武器禁運協定，該廠所進口的迫擊炮筒全部以自來水管的名義改裝，負責製造迫擊炮的則是專門聘請的英國技師。迫擊炮廠雖然規模不大，但所生產的中型迫擊炮威力冠於國內各軍，稱得上是物美價廉。
直奉戰前，雙方都有航空隊在，但東北航空隊在戰爭中卻沒有起到作用，風光的是直系航空隊在，張作霖將這也視為落敗的一個原因。他讓張學良擔任主管，重點抓航空隊的發展。「整軍經武」期間，東北航空隊改用了「一戰」以後法國最新的飛機，教官和教材也都來自法國。相比之下，直系航空隊的飛機一直沒有更新，用的始終都是皖系留下來的陳舊之物。
經過「整軍經武」，僅用兩年時間，東北軍就基本恢復元氣，同時數量和質量也有了空前提高，已由過去綠林式的烏合之眾一躍成為訓練有素的正規軍。
張作霖一面進行「整軍經武」，一面繼續加強「三角反直聯盟」。直奉大戰時，孫中山因受陳炯明「炮擊總統府」的威脅，被迫離開廣州前往上海，未能對奉軍起到相互呼應或支援的作用。張作霖怒氣沖沖地說：「那邊有個陳小子（指陳炯明），這邊有個張雜種（指張景惠），壞了事。」難得的是，他並沒有因此怪罪孫中山：「孫先生是文人，帶兵是為難的，我不求他別的，只要他對救國大計多想辦法。這班傢伙讓我來用武力收拾他們！」
孫中山到達上海後，經濟一度非常拮据，張作霖得知這一情況一拍胸脯：「患難中交朋友，我送孫先生十萬元作他的生活費用！」錢由韓麟春負責帶給孫中山，韓麟春可能覺得多了，就只給了三萬元，後來張作霖看到孫中山給南方代表寧武的一封信，上有「雨公所贈三萬元，我已分給眾同志矣，煩代致謝」的話，這才知道事情的原委。他把韓麟春叫來痛罵一頓，說：「憑我張某人只送孫先生這點錢？不成話，趕快再補七萬元！」
無論三萬元還是十萬元，都只能解決生活問題，孫中山派人給張作霖送信，希望商借一筆更大的款子，並暗示如果他有了這筆款子，「不出數月就可以消滅叛逆，收復廣東」。經過幾度商談，張作霖同意幫助粵軍回粵費五十萬元，以後根據實際情況又陸續補助了幾十萬元。此後孫中山果然重振旗鼓，派手下大將許崇智率部回粵，對陳炯明進行討伐，直至逐步恢復自己的根據地。