高爾基小時候家裡很窮，沒有辦法，他只好到一家裁縫店當學徒。
在裁縫店裡，小高爾基一邊幹活，一邊想方設法讀書，老闆訂了一份《俄羅斯報》，小高爾基就趁老闆不在時，偷偷看這份報紙。
有一次，小高爾基從鄰居家借來一本小說，趁老闆晚上睡著以後，在窗邊藉著月光津津有味地讀起來。過了一會兒，月亮躲到了雲層後面，小高爾基興致正濃，怎肯罷手，就點燃一盞小油燈繼續看下去。不一會兒，老闆醒過來，他看見小高爾苦在油燈下如癡如醉地看一厚厚的書，不由怒氣沖沖地說：「看什麼看，你把我農的燈油都快用溝了！」老闆娘也醒過來，像一頭母狼似的撲上去毆打小高爾基。
小高爾基無法忍受下去，他二話不說，頭也不回地離開了裁縫店。
小高爾在背著行囊來到伏爾加河邊，他注視著波光點點的伏爾加河，心裡感覺有些悲傷，可是很快他又看到了生活的希望，因為他在一艘輪船上遇到了一位和藹可親的胖廚師，並做起了胖廚師的洗碗小夥計。更讓小高爾基感到驚喜的是，胖廚師也是個書迷，他有滿滿一箱的書，而且願意讓小高爾基隨便讀。小高爾基高興極了，一有空閒時間就如饑似渴地讀書，有時還和胖廚師一起探討書中的各種問題。
小高爾基一邊讀書一邊思索，從大量的書籍中明白了許多人世間的道理。大量的閱讀也為他以後的文學創作提供了豐富的滋養，使他最終成為蘇聯大文豪。
1868年3月14日高爾基出生於俄國伏爾加河畔的下諾夫戈羅德城。父親是個大兵的兒子，母親是染房老闆的女兒。祖父曾經當過軍官，因殘酷虐待部下，被沙皇尼古拉一世降了職。祖父對父親非常嚴厲，以致父親從家裡逃跑5次，最後一次逃跑成功。逃跑後，先後幹過木匠、輪船公司辦事處經理、裝飾室內帷幔和裱糊壁紙的工人等，是個聰敏、善良而且非常愉快的人。後來感染霍亂，在高爾基3歲時去世。父親去世後，高爾基隨母親到外祖父家生活。在充滿小市民氣的外祖父家度過了童年。其間，母親改嫁並於幾年後患肺結核病去世，外祖父破產。
11歲的高爾基被迫流落人間，開始獨立謀生。他揀過破爛，當過學徒和雜工，受盡欺凌與虐待，飽嘗生活的苦難與艱辛。他只上過三年小學，但酷愛讀書，利用一切機會讀手邊所能碰到的書，刻苦自學。
1884年，他懷著上大學的打算來到咯山，但未能如願，在社會的底層讀完了他的社會大學。先後當過碼頭搬運工、麵包師傅、雜貨店夥計、園丁和守夜人等。同時，結識了先進的民粹派知識分子和馬克思主義的著作，進一步認識到現實的醜惡和人民的疾苦，逐漸樹立起改革社會的決心。
1888—1889年、1891—1892年，高爾基為瞭解祖國和人民，兩次漫遊俄羅斯。從尼日尼跑到察裡津，經過頓河區域、烏克蘭，來到比薩拉比亞，再從那裡沿著克里米亞南岸到了庫班，再到黑海邊。旅途見聞和艱苦經歷使高爾基開闊了眼界，磨練了意志，積蓄了豐富的知識和生活素材，激發了他從事文學創作的強烈慾望。