王肅，字恭懿，琅笽臨沂人，司馬衍的丞相王導的後人。父王奐，為蕭賾尚書左僕射。王肅少時即聰慧善辯，涉獵經史，頗有大志。出仕蕭賾政權，歷任著作郎、太子舍人、司徒主簿、秘書丞。王肅自稱擅長《禮》、《易》，其實也未能通其大義。父王奐及兄弟都被蕭賾殺害，王肅從建業投奔朝廷，這一年是太和十七年(493)。
魏高祖到鄴城，聽說王肅來了，虛襟以禮待之，引見他問其原因。王肅辭義敏切，善辯也有禮節，高祖很是哀憐他。又談到治理國家的道理，王肅陳說治亂，辭正意切，深合帝意。高祖嗟歎接納他的意見，二人促膝交談，忘記了時間，不覺久坐的疲勞困乏。王肅又述說蕭氏政權的危殆滅亡徵兆，可乘之機，勸說高祖大舉進攻。從此以後，朝廷圖取南方的機鋒轉銳，王肅的禮遇日有加授，親貴舊臣也不能從中做什麼手腳。帝或者擯退左右與他相對談話，到夜半都不肯罷休。王肅盡忠輸誠，知無不言，自稱君臣之際猶如當年劉玄德之遇孔明一般。不久就被授為輔國將軍、大將軍長史，賜爵開陽伯，王肅堅決辭謝伯爵之位，帝答應了。
帝詔王肅到義陽討伐蕭鸞。聽任王肅招募壯士以為爪牙，因其募士有功，賞加常募一等；跟隨王肅前行的，六品以下官職聽其先行擬用，然後報帝；如是投順之人，聽其五品以下優先擢用。這時，朝廷授假王肅持節，行平南將軍之職。王肅到義陽，頻頻攻破敵軍，投降者萬餘人。高祖派散騎侍郎慰勞他，因功進號平南將軍，賜給他駿馬一匹，除授持節、都督豫、東豫、東郢三州諸軍事、本將軍、豫州刺史、揚州大中正。王肅善於撫慰百姓，治績卓然。
不久征王肅入朝，高祖下詔說：「不見君子，中心如醉，一日三歲，我勞如何。飾館華林，拂席相待，愛卿打算何日發汝州墳塚呢？故有此詔。」又下詔說：「王肅勇敢果決無當，志向可比比伍胥，自拔吳州，膺求魏縣，躬操忘禮之本，而同無數之喪，誓雪冤恥，方展復仇之舉，朕再行諭示，不改蔬..，真可稱得上是季世之高風，末代之孝節也。但是聖人制禮，必考慮到愚智的差別；先王作則，理齊盈虛。超過的俯而就之，不及的企而行之。曾參居罰，寧其哀終；吳員處酷，豈聞四載。大凡守喪三年，是天下的通行喪制，古今都是一致的，他想過於其禮，朕豈能不以禮制止他嗎？有關部門可以依禮曉諭，為裁喪祭之制。」
太和二十年(496)七月，高祖因久旱不雨，停食三天，群官詣闕，集中在中書省。魏高祖在崇虛樓，派舍人問詢說：「朕知道卿等來了，卻不被接見，卿等為何而來？」王肅回答說：「聽說陛下停食已經三天，群臣惶恐不安，不敢自寧。臣聽說堯時水災，湯時旱災，這都是自然的運數，我們需要聖人以救世，但有災不是由聖人招致的。因此國家儲備九年的糧食，以備九年之變。臣又聽說，老天爺到了八月仍不降雨，然後君不舉膳。而昨天京城四郊之外已降喜雨，只是京城之內還少滋潤。百姓也未缺一餐，而陛下停食三日，臣僚百姓惶惶不安，不知怎麼辦才好。」高祖派舍人回答說：「過去堯水湯旱，依仗聖人以拯救百姓，而朕今雖居萬民之上，道不及前王，今日之旱，無以救恤，朕應待立秋之後，躬身引咎。但是這個月初十以來，炎熱焦酷，人物同悴，而近幾天連雲數日，高風勁吹，雖然朕數日不食，但蒼天仍無感應，這是朕誠心未至所導致的。」王肅說：「為臣聽說聖人與凡人相同的是身體器官，不同的是神明智慧。過去姑射之神，不食五穀，臣常說那是矯妄之辭。今日見到陛下，才知此話不假。況且陛下停膳以來，如若上天全無應許，臣也可說上天無知，陛下無感。昨天之前，外已下雨，京城也是密雲四布，臣即說蒼天有知，陛下也有感應了。」高祖派舍人回答說：「昨天內外貴賤都說四郊有雨，朕擔心這些人說的都是寬解朕的話，三覆之慎，必須使之信而有徵。應當派人查看，假如果然下雨了，便命廚官欣然進膳。怎麼能讓近郊以內還要天慷慨呢？如果沒有此事，就是朕不能感天，安用朕身以勞擾百姓！朕今志確然已定，死而後已。」這天夜裡大雨滂沱。
王肅以破蕭鸞將裴叔業的功勞，進號為鎮南將軍，加授都督豫、南兗、東荊、東豫四州諸軍，封汝陽縣開國子，食邑三百戶，持節、中正、刺史官職依舊。王肅頻頻上表推辭，帝不許，下詔加鼓吹一部。太和二十二年(498)，平定漢陽之後，帝下詔王肅說：「大凡知己貴義，君臣務恩，而不能消災滅禍，恩義何指？卿情同伍員，身懷大恨歸附於朕，然而卻不能除一仇人，殺彼凶帥，何嘗不興言憤歎，羨吳閭而長歎息。前獲蕭鸞輔國將軍黃瑤起，朕乃知是卿的仇人。朕很快將他交付給卿，希望能稍洩仇恨，使朕當初見卿時的愁雲，稍能釋懷。」當初，蕭賾收捕王肅父親王奐，司馬黃瑤起攻奐殺之，所以帝下詔如是說。
魏高祖討伐淮北，令王肅討征義陽，沒等克城，蕭鸞便派將裴叔業侵犯渦陽。劉藻等救之，被裴叔業打敗。王肅上表請求另派軍援救渦陽。帝下詔說：「得表，看完後內心黯然，朕觀卿意不是專在水，當是因劉銳等精兵新敗於前，事往勢難的緣故。朕如分兵，派的不多，則會無所制，多派則禁旅難闕。今天的計策，只有當作必克之舉，不可為遲疑之師，以免白白失卻南兗一州。卿便息意停彼，以圖義陽之寇。宜止則止，還取義陽；宜下則下，鎮軍淮北。卿當深察兩種舉措，不要導致雙重失誤。如若孟表糧盡，軍隊來不及到那裡，以致丟失渦陽，是卿你的過失。」王肅於是解除義陽之圍，率軍奔赴渦陽，裴叔業於是引師退去。王肅因劉藻等戰敗，黜為平南將軍，中正、刺史官職仍舊。
高祖去世，遺詔任王肅為尚書令，與咸陽王元禧等同為宰輔，徵召王肅在魯陽會駕。王肅到後，便與元禧等一同參與謀略。從魯陽至於京洛，路上喪制之事，朝廷委王肅參與處理，他憂勤密密，謹慎安排，有過舊戚。元禧兄弟都與他親近而且敬重他，上下稱為和睦。只有任城王元澄覺得王肅被啟用於邊遠之地，一旦他位處自己之上，覺得很有缺憾。每每對人說：「朝廷把王肅安排在我上面還可以，而從叔廣陽，是宗室尊宿，歷職內外，為什麼忽然間讓王肅位居其右呢？」王肅聽說這話，堅決不就職以避嫌隙。不久被元澄奏劾，稱王肅謀反，這話不久就被申釋化解。帝詔王肅與陳留長公主成親，本是讓他與劉昶的媳婦彭城公主成親的，帝賜錢二十萬、帛三千匹。王肅啟奏說：「考課是為檢查才能，升職是由政績顯著，提升明達退卻..弱，就在這裡。自從百官曠缺考察，到今已經四年，臣請求依照舊式考檢群官能否勝任。」皇帝接受了這個意見。
裴叔業以壽春內附朝廷，朝廷拜授王肅為使持節、都督江西諸軍事、車騎將軍，與驃騎大將軍、彭城王元勰率領騎步兵十萬人奔赴壽春。蕭寶卷的豫州刺史蕭懿率眾三萬人屯駐小峴，交州刺史李叔獻屯軍合肥，準備圖取壽春。蕭懿派將胡松、李居士等領兵萬餘屯駐死虎。王肅揮師打擊，大破敵軍，擒拿其將橋珉等人，斬首數千。進討合肥，生擒叔獻，蕭懿放棄小峴南逃。王肅還歸京城，世宗親臨東堂引見慰勞王肅，帝又問：「江左有什麼消息？」王肅說：「聽說崔慧景已死。蕭寶卷所憑仗的，非邪即佞。老天爺殆以此資陛下，平定江南的日期，將會不遠。」帝以王肅淮南屢屢獲捷，賞賜縑帛四千七百五十匹，進位開府儀同三司、封昌國縣開國侯，食邑八百戶，其餘官職照舊。不久以王肅為散騎常侍、都督淮南諸軍事，揚州刺史、持節，余官照舊。
王肅連年在邊，悉心撫接人士，遠近懷歸，歸附之人門庭若市，王肅以誠相待，大得歸附人的心。王肅清身好施，省減聲色之好，始終以廉潔約身，家中竟無餘財。然而性格微顯輕佻，頗以功名自許，護掩瑕疵稱伐己功，很少推許部下，高祖經常談到這點。景明二年(501)在壽春去世，享年三十八歲。魏世宗親自為他舉哀，下詔說：「王肅突然溘逝，朕痛苦惋惜兼填於懷，可派中書侍郎賈思伯兼通直散騎常侍撫慰其孤，給東園秘器、朝服一襲、錢三十萬、帛一千匹、布五百匹、蠟三百斤，並問其卜遷墳塚遠近，專派侍御史一人監護喪事，務令優厚。」又下詔說：「死生動靜，卑高有域，勝達所居，存亡崇顯。所以杜預死後，葬於首陽；司空李沖，托塚覆舟。朕顧瞻那裡，誠為二代的九原。已故揚州刺史王肅忠誠大義結於二世，英達惠敏比於李杜，平生本意，願終京陵，既有此心，應遂素志。可讓其葬於李沖、杜預兩墳之間，使他能與二人神遊相交。」贈他為侍中、司空公，本官如故。有司啟奏王肅忠心大度，應謚為匡公，帝詔謚為宣簡。肅宗初，帝詔為王肅樹建碑銘。子王紹襲爵。