在《水滸傳》中，宋江第一次上梁山，曾受過他救命之恩的晁蓋便要拜他為山寨之主，坐第一把交椅。宋江堅不肯從，說：「哥哥原是山寨之主，如何卻讓不才？」他甚至還聲明，如果晁天王硬要讓賢，那他情願去死。
後人評《水滸》，評到這一段的時候往往就有一種意見，認為宋江十足虛偽，明明心裡高興，卻還要假惺惺地忸怩作態。其實這種分析反而是違背了《水滸傳》的本意，因為宋江在書中乃是正面人物，絕對的男一號，從這個角度上來說，他的所有言行都不能逾越作者所認同的江湖道德規範，而這種所謂的江湖道德規範，核心的東西其實就兩個字：義氣。
行幫各派，義氣為重。晁蓋讓賢是「義」，宋江推辭也是「義」，他們都是在巨大的利益和好處面前互相進行推讓，以此證明自己的價值觀。
作為一個長期闖蕩江湖的綠林中人，義氣二字同樣為張作霖所認同和尊重，所以不管他心裡對做一把手究竟有沒有意思，嘴上一定會堅決推辭。
張景惠不肯罷休，第二天，他把部下都召集起來，對眾人說：「張雨亭（張作霖字雨亭）年富力強，志向遠大，我情願擁護他做團練的領袖，大家跟著他圖個好的前程。」
張景惠這麼講義氣，張作霖只能向宋江老前輩學習。當下他不僅執意不從，而且還吩咐手下收拾行李，表示如果張景惠一定要這麼做，他就只能離開八角台了。
事情驚動了張子雲，他親自對張作霖進行挽留。在二張互相推讓這件事上，則主張從全鎮利益出發，讓全鎮人商議決定究竟誰來當民團的一把手。
在八角台，數張子雲的面子最大，他一站出來，二張都無話可說。接下來一切順理成章，在張景惠的竭力推薦下，鎮上的人都同意張作霖坐頭把交椅，張作霖實在推辭不過，這才接受下來。
得馬者未必為喜，失馬者未必為憂，經歷挫折後的張作霖意外撿到金元寶，從此在八角台站穩了腳跟。這裡也成為他恢復元氣和進一步發展的基地，憑借八角台相對充裕的財力物力，張作霖開始招兵買馬，擴大團練規模。
隨著實力的增強，張作霖同周圍其他幫會的矛盾也日益突出。一個綽號「項傻子」的「鬍子」與金壽山等聯合，對八角台實施了夾攻。見對方人多勢眾，張作霖忙派湯玉麟帶一部分人到鎮外駐紮，與八角台形成掎角之勢，自己則與張景惠一道在鎮上堅守。
對於八角台這樣的「硬窯」加「紅窯」，「鬍子」通常都是要麼不砸，要砸就往狠裡砸。因為都知道窯裡油水足，一旦「砸響」（打進去）便可以進去花天酒地，縱情享樂，所以在八角台「槍頭子硬」，即便硬攻進去，也要死許多「崽子」（即嘍囉）的情況下，「項傻子」等仍不肯收兵。
就在這一節骨眼上，張作相來了，立刻局勢大變。
張作相是泥瓦匠出身，原來住在錦州柳條邊牆一帶。那一帶在地理上是漢蒙兩族居住的邊界，民風彪悍，向有聚族械鬥的傳統習慣。家族中誰被人打死了，如果停靈不葬，就預示著他們要集合整個家族的力量繼續進行復仇。
有一天，張作相的本家族弟遇上土匪，被打死了。族人便停靈不葬，並公推張作相帶隊復仇。張作相到處打聽仇人的下落，後來得知對方已經入軍營當兵，便緊追過去，找機會幹掉了他。仇人的家屬在當地也很有勢力，馬上到縣衙鳴冤告狀，為躲避官府的捉拿，張作相只得帶上十幾個本家兄弟浪跡江湖，帶著人馬前來八角台投奔張作霖。
張作相的人馬雖然不多，但都很能打，又是在雙方勢均力敵的時候，因為他的加盟，張作霖終於擋住了「項傻子」的進攻。
張作霖與張景惠、張作相皆為海城老鄉，且一見如故，有著相當好的私誼。三人於是結拜為兄弟，按照年齡順序，張作霖居於老二，他稱張景惠為「我大哥」，稱張作相為「我三弟」。
加上湯玉麟，張作霖帳下已擁有三員頗為強悍的大將。有人分析認為，張作霖在東北綠林既是晚輩，初起時其力量同其他幫派相比也十分薄弱，後來實力之所以能夠擴展得那麼快，和手下這幾員大將其實有著很直接的關係。