小幫畢竟還是小幫，要想在這麼多幫派中間求得生存發展，有時仍得投靠大幫以求自保，這在江湖中稱為「靠窯」，張作霖新找到的「靠窯」對象是程敬芳、程敬雙幫派。
「鬍子」這一行可謂是「行低人不低」，大幫裡都有獨特的組織機構和職務分工、名稱。通常情況下，幫會首領被稱為「大當家的」，又叫大哥、大掌櫃，坐第一把交椅，可以發號施令，總領一切。其次是「二當家的」，也叫「正炮頭」或「總炮頭」，主要負責在退卻時為隊伍斷後。
張作霖初來乍到，一、二把交椅都輪不上，他坐的是第三把交椅，稱為「攬把」或「蘭把子」，專司「秧子房」。「秧子房」是所有綁來的人質（稱為肉票）集中關押的地方，由於綁票勒索為「鬍子」的主要活動及生活來源之一，所以「秧子房」的地位很重要。
張作霖入幫後做成的第一樁「買賣」，是綁了兩大車富人家的女眷。人們印象中的盜匪往往脫不開「燒殺姦淫」這四個字，但匪有匪道，東北「鬍子」在後兩個字上其實定有嚴規。首先，為避免動搖軍心，「大當家的」一般不能有「家」，也就是娶媳婦（當然也有例外）。其次，嚴禁「壓花窯」，即用強迫手段糟蹋女人。對於「壓花窯」的人，他們稱為「嚴岔子」，處理很嚴，一般都是死刑。
在綁女眷的過程中，張作霖對手下看得很嚴，底下人對這兩車女眷連一句玩笑話都不敢說。事發後，富人家也如期贖票，如數交銀。儘管如此，張作霖對綁女人為人質這件事仍舊十分不滿。
除此之外，身為「蘭把子」，必須心狠手辣，即俗語說的「心硬」。有的肉票自被抓起，就一直被綁在馬上隨「鬍子」行走轉移，無法移動，天長日久，屁股都讓馬背給磨爛了，大腿上生了一堆一堆的蛆。「鬍子」們既怕肉票死掉，又捨不得給他們用藥，於是就只能用火來烤肉票腿上的蛆。在烈火熏烤下，肉票疼得爹一聲媽一聲地拚命叫喚，情形慘極了，面對這一情形，膽子小或心軟一點的「蘭把子」根本無法承受。張作霖的膽子不算小，但心實在沒那麼硬。
綁了票，就要設法使人家贖回去，不然就沒意義，這叫「甩出去」。為了確保盡快「甩出去」以及防止肉票逃跑，「秧子房」每天要對肉票用刑，所用刑罰大多非常嚴酷，其中的「熬鷹」更是令人談之色變。「熬鷹」時，「蘭把子」會先命令肉票們圍著一堆火坐下，然後交給他們一個撥浪鼓或者鈴鐺，讓他們從一頭開始搖，每人搖五下，搖完再傳給下一個人，到誰那裡停了，監視的「鬍子」就從背後給誰一棍。有人幾天幾宿沒睡覺，被熬得受不了，搖著搖著就扎到火堆裡，重者當場被燒死，輕者也得被燒個「滿臉花」。
張作霖耳聞目睹，覺得這些事真的是太缺德了，他幹不了。於是很快他又率部脫離雙程幫，回到了趙家溝。日後張作霖發了跡，上山為匪這段經歷雖然無法迴避，但他總是理直氣壯：「都說我張作霖當過鬍子，我他媽的拿過誰一個笤帚疙瘩了？那時候我就是不服天朝所管！」
張作霖回趙家溝前，正值義和團運動興起，東北也出現了殺洋人、焚教堂的義和團組織。1900年7月，俄國以「護路」為名，出動十幾萬部隊侵入東北，直接剿殺東北義和團。10月，俄軍將領闊比薩爾率部佔領奉天，盛京將軍（盛京為清代對瀋陽的稱呼）增祺被迫逃往遼西。
逃亡過程中，增祺所率仁字、義字兩軍在遼西潰散了兩營，這些遊兵散勇抵抗俄軍雖不足，騷擾百姓卻有餘，當地有句俗語「兵匪一家」，就是說這些當兵的有時和「鬍子」一樣壞。在遼西一帶，地方政府的運作完全失靈，清兵、「鬍子」四下出沒，到處搶劫，攪得鄉里極不安寧。為了自保，地方士紳紛紛組織起由練勇所組成的「保險隊」（也叫大團），通過「保險隊」來為當地做「保險」。
什麼叫「保險」？就是你這個村莊，他這個村莊，都由「保險隊」負責保護，村裡則每月付給「保險隊」多少錢，以供練勇們吃喝穿用。有人套用戲曲中不太好聽的說法，稱之為「坐地分贓」。
「保險隊」負責保護的區域叫作「保險區」，「保險區」付給「保險隊」的錢就是「保險捐」，有錢的士紳多交一些，那些沒什麼錢甚至是赤貧的居民可以免納。所謂拿人錢財，替人消災，如果有兵匪搶掠「保險區」內村民的牛馬車畜等財物，「保險隊」必須派人追捕，乃至將禍首處死，就好像官府一樣。那段時間內，遼西各地都呈現出「似無治安而有治安」的奇怪現象。
當大股「鬍子」過境時，「保險隊」首領還要率部到境外迎接，一半監視，一半備戰，總之一句話，務必要確保其秋毫無犯。倘若對方缺乏江湖義氣，不守江湖規矩，雙方就免不了要大打出手，來一場惡鬥。
說起真刀真槍的惡鬥，除了官軍，當然還是「鬍子」比較在行，所以練勇一般都是被招募的遊兵散勇或者「鬍子」。張作霖這一回家可謂正逢其時，在岳父趙占元及其他鄉紳的協助下，他也在趙家溝成立了一個「保險隊」。