范雲字彥龍，是南鄉舞陰人，晉朝平北將軍范汪的第六代孫。六歲時，在路上遇見豫州刺史殷琰，殷琰認為他人才出眾，邀請他來作客。范雲在問答應對時很有風度文采，旁若無人。殷琰讓他作詩，提起筆來立刻寫成，在座的人都很讚歎。范雲曾經在親戚袁照家裡學習，晝夜從不懈怠。袁照拍著他的背說：「你精神秀麗明朗又肯勤奮學習，是個做卿相的人才！」范雲在少年時便機智銳敏，對人對事都有自己的見解，善於作文章，熟悉書信的款式，一落筆便完成，從來不打草稿，當時的人們都認為是他事先便構思好的。父親名抗，做郢府參軍，范雲當時跟著父親在府裡，這時吳興人沈約、新野人庾杲之和范抗同在府中任職，他們見到范雲便把他當成朋友對待。
范雲一開始任西曹書佐，轉任法曹行參軍。不久沈攸之反叛發兵圍攻郢城，范抗這時任郢府長流，進城擔任防務，家屬都留在城外。范雲被沈攸之的軍人捉到，沈攸之召來範雲同他談話聲色很嚴厲，范雲表情毫不畏懼，從容答對。攸之聽了笑道說：「你一定是一個讓人可心的孩子，暫時回家去吧。」第二天，又召來範雲命令他去城裡送信。城裡的守軍有的要殺死他，范雲說：「我母親年老弟弟幼小，他們的性命都懸在沈氏手裡，假如我違抗他的命令不來送信，我的親人就必定要受害，今天我為了送信喪命，心甘情願。」長史柳世隆平素和范雲友好，於是便免了范雲的死刑。
齊武帝建元初年，竟陵王蕭子良做會稽太守，當范雲開始隨竟陵王時，竟陵王還不瞭解范雲的才智。等到竟陵王到秦望山遊覽時，他讓人們識別辨認石刻上的古文字，當時沒有人認識，惟有范雲能夠誦讀刻石文辭，竟陵王很高興，從此對范雲的寵信高過府中的其他人。竟陵王轉任丹陽尹，召范雲來做主簿，對他十分親近信任。一次進見齊武帝時，正值有來獻白烏鴉的人，齊武帝問這是什麼祥瑞，因為范雲的職位低下，最後他回答說：「我聽說，帝王敬祀宗廟，就有白烏鴉到來。」當時武帝剛剛拜謁過祖廟，說：「你的話是對的。天意和人事相互感應的道理，竟然會是這樣神妙啊！」調范雲補做征北南郡王刑獄參軍事，兼任主簿不變，陞遷做尚書殿中郎，蕭子良做司徒，范雲又補做記室參軍事，不久授官做通直散騎侍郎，兼任本州大中正。後出任零陵郡內史，在任期間潔身奉己，減免煩苛的政令，免掉多餘的費用，使百姓得到安定。齊明帝召范雲回京，到來後，授官散騎侍郎。又出任始興內史。郡裡有很多豪猾大姓，凡是他們不中意的太守，他們密謀一同加以殺害，不然就把太守趕走。邊界和蠻俚部落相連，盜賊尤其眾多，前任的內史都是身佩兵刃用來自衛。范雲來到始興境內，用恩德撫恤百姓，撤除邊境的哨所，商販可以露宿過夜，郡中人稱讚范雲是神明。又晉陞做假節、建武將軍、平越中郎將、廣州刺史。起初，范雲同尚書僕射江..友好，江..的姨弟徐藝做曲江縣令，江..把徐藝托付給范雲請求關照。有個名叫譚儼的人，是曲江縣的豪族，徐藝曾罰他受鞭刑，譚儼認為受了羞辱，便到京城上訴范雲的罪狀，范雲因此被召回，入獄，逢上大赦免於受罰。東昏侯永元二年(500)，重新起用做國子博士。
起初，范雲和梁武帝蕭衍曾在齊竟陵王蕭子良的官邸相會，又曾住在鄰近的街坊，梁武帝很器重他。當反對東昏侯的軍隊到了京城，范雲這時正在城裡。東昏侯被殺之後，侍中張稷派范雲帶著使命出城，梁武帝便留下范雲，參預機密大事，又授官做黃門侍郎，和沈約一起同心協力輔佐梁武帝。不久晉陞做大司馬咨議參軍、兼錄事。梁朝建立之後，升任侍中。這時梁武帝收納樂昏侯的余妃，為此嚴重影響了國家政務，范雲曾經進言勸阻，未被採納。後來範雲和王茂一同來到梁武帝的臥室，范雲又進諫說：「過去漢高祖劉邦在山東的時候，貪財好色；等進入函谷關平定秦地之後，不斂取財帛，不接近婦女，范增認為這是劉邦有遠大志向，打算成就大事業的緣故。如今明公剛剛安定天下，天下的人都想看到你的風度和威名，為什麼要因襲昏亂的事情，讓女色拖累貽誤大事。」王茂也藉機起身施禮說：「范雲說的正確，主公一定要以天下大事為重，不應該對女色表示留戀惋惜。」蕭衍沉默不語。范雲便寫奏疏建議把余氏賜給王茂。高祖蕭衍認為這是忠賢之言並准許范雲的請求。第二天，賞賜給范雲、王茂每人一百萬錢。
天監元年(502)，梁武帝接受齊和帝禪位做天子，在南郊舉行柴燎祭天儀式，范雲以侍中身份陪乘。祭禮完畢，高祖坐上御輦，對范雲說：「我今天的心情，正是所謂戰戰兢兢如同用糟爛的韁繩駕馭六馬一樣。」范雲說：「我也深願陛下一天比一天更加謹慎。」武帝認為范雲所說很好。當天，晉陞范雲做散騎常侍、吏部尚書；由於輔佐武帝即皇帝位有功封霄城縣侯，食邑一千戶。范雲憑舊日與武帝的關係受到提拔超過常人，升任為佐命大臣，他竭盡忠誠輔助皇帝，凡是該做的無不盡力去做。武帝也拿誠心待他信任他，范雲奏請的事大多得到准許。范雲曾經陪侍御宴，武帝對臨川王蕭宏、鄱陽王蕭恢說：「我和范尚書從少年時起便友好親善，對他懷有兄弟般的情意；如今我成了皇帝，這種朋友的禮節變成了君臣關係，你們應當代替我稱他為兄。」二王離席施禮，和范雲同乘一輛車回到尚書省，當時人們都為范雲感到榮耀。這一年，皇帝立太子，范雲以原官身份兼任太子中庶，不久升做尚書右僕射，還兼任吏部尚書。過不久，因為范雲違背詔令意旨用人而得罪，免除吏部尚書職務，仍然保留僕射職務。
范雲性格誠厚親和，對待寡嫂盡心有禮，家裡的事一定要事先問過嫂嫂然後才辦。他喜好氣節，崇尚不同尋常的作為，專門幫助別人的急難。少年時和領軍長史王亥友好，後來王亥死在官署裡，窮得沒有自己的住宅，范雲便把死者運回家來，親自辦理裝殮殯葬的事。侍奉竟陵王蕭子良時受到的恩惠禮遇都很隆重，但是范雲每次進言批評或鼓勵，從來沒有曲意奉承。蕭子良曾經啟奏齊武帝建議派范雲出任郡守的事。武帝說：「范雲是個平庸的人，聽說他經常賣弄權勢，我現在不再依法深究，從寬讓他到遠方去任職。」蕭子良說：「不是這樣。范雲對我規勸教誨，寫的諫書全在，讓我取來呈上。」拿來之後，有百多張紙，言辭都很重要而且是直言不諱。齊武帝讚歎，便對蕭子良說：「想不到范雲竟是這樣的人。正好讓他輔助你，怎麼可以讓他出去做郡守呢？」齊文惠太子曾經出宮到東田觀看農夫收割莊稼，回頭對眾賓客說：「收割也是很好看的。」眾人都唯唯稱是，只有范雲說：「一年三季的勞動，實在是長期勤苦的事。我只願殿下瞭解稼穡的艱難，不要貪圖一朝一夕的宴樂安逸。」出來之後，侍中蕭緬先前同范雲並不相識，臨上車的時候握著范雲的手說：「想不到在今天又聽到了忠直之言。」當范雲官居吏部的時候，責任職守極其重要，書信文件堆滿公案，賓客滿門，范雲應接對答自如，毫無拖沓阻滯，官屬們的文稿，發現並指出不當之處快速如神，當時人全都佩服他聰明博學，性格極其坦率正直，不重視威儀權勢，凡是認為對的或不對的，都在言行中表現出來，有的士大夫就因此對他不滿。起初，范雲做郡守時人們都稱頌他的廉潔，等到在朝中做高官時，很重視與人相互饋贈，但是家裡沒有積蓄，得到的錢財隨時都分送給親朋故友。
天監二年(503)逝世，當時五十三歲。梁武帝為他流淚，當天親臨弔唁。頒詔書說：「追念往日令人產生悲傷的情緒，這是人們所重視的感情，更何況他的聲名威望還在，又是個朝廷委以重任的大臣呢！已故散騎常侍、尚書右僕射、霄城侯范雲，器度風範忠貞正直，為國家大事深思遠謀，早年便立有大志，平常行事負有盛名。自從任官以來，清明的政績一貫顯著。在朝中經理國政，實在是公輔之臣。他勤心輔政，大義記在我心上，雖然他操勞的不是軍務，但他卻是長久和我共同議論謀劃大政的文臣。正當任重道遠馳騁才力，長久輔政理事的時候，忽然喪命殞逝，使人滿懷悲痛。應當加賜官位秩祿，用來作為美好的典範。可以追贈做侍中、衛將軍，僕射、侯爵不變，並且賞賜鼓吹樂一部。」禮部官員請加謚號為宣，皇帝下令改稱文。有文集三十卷。他兒子范孝才繼承爵位，官做到太子中舍人。