薛淵，河東汾陰人。宋朝徐州刺史薛安都的侄子。原名薛道淵，為避太祖(蕭道成)偏諱改成薛淵。當年薛安都獻彭城投降北虜，親族人等都去了北土。太祖鎮守淮陰時，薛淵逃來南方，主動投靠了太祖。作風果斷幹練有勇力。太祖命薛淵領部曲，在帳內備衛，跟從他去征伐。元徽末年，因立戰功薛淵官至輔國將軍，右軍將軍，驍騎將軍，軍主，封為竟陵侯。
沈攸之發難，太祖入朝，豫章王蕭嶷代守東府，派薛淵領兵駐紮司徒左府，共同守衛京邑。袁粲佔據石頭時，豫章王蕭嶷夜登西門遙呼薛淵，薛淵被驚起，率軍隊去解救，先到石頭火燒城門攻打。事平後，第二天清晨，眾軍還師聚在杜姥宅，街路都擠滿了人，宮門不能開，太祖登南掖門樓命眾軍各回自己駐地，到食時以後，城門開，薛淵才得以入宮見太祖，悲喜交集。太祖即位後，增封他食邑二千五百戶。任命他為淮陵太守，加寧朔將軍，驍騎將軍仍舊。不久任直閣將軍，冠軍將軍。又轉任太子左率。
北虜派偽將薛道票侵犯壽春，太祖因道票是薛淵的親近，敕令齊郡太守劉懷慰說：「聽聞道票不日來侵，其妻兒都在都城，和諸弟不會再都活命，像這類人，不能不多方干擾他，虜方縱不全信，也足以使豺狼們疑心。」命令偽造一封薛淵的書信給道票有套近乎的意思，虜方得到此信，果然追回道票，改派別人代替他。
世祖即位，薛淵調任左衛將軍。當時，薛淵南投，其母索氏不能逃離，改嫁長安楊氏，薛淵暗中派人去贖她，梁州刺史崔慧景報薛淵道：「索氏在界首，我已傳信拘引，她已得解職。」薛淵上表請求解職到界上迎母。被批准。改授散騎常侍、征虜將軍。薛淵母親南歸的事後來竟未落實。永明元年(483)上表請求解職送貂蟬去。皇上下詔說：「遠隔異地，傳說不實。薛淵憂迫之深，堅決辭官。當年東關舊典，尚允許兩國互通婚宦；況其母已獲安定，時有消息傳來，依照前例，不准申請，應將其上表壓下，立即還他朝服。」薛淵由於贖不成母親，又上表求解職，皇上不准許。後來北虜來使，皇上替薛淵寫信給母親。
皇上駕幸安樂寺，薛淵隨駕乘著虜橋。此前朝廷曾有規定：羌虜橋具不得列入儀仗。被有關部門劾奏，免了他的官，又被原諒了。永明四年(486)，出京任持節、督徐州諸軍事、徐州刺史，將軍如故。第二年，遷任右軍司馬，將軍如故，又轉任大司馬，濟陽太守，將軍如故。永明七年(489)，任給事中、右衛將軍，因病辭職。回家時，不能乘車，去掉車輪，讓人擔架抬著他離去，又被有關部門檢舉，又被寬恕了。永明八年(490)，任右將軍、大司馬，領兵討伐巴東王蕭子響。子響的大將劉超之被打得沒辦法，用被褥雜物十幾種東西賄賂薛淵以求自逃，薛淵把他藏在軍中，為有關部門檢舉出來，皇帝下詔原諒了他。永明十年(492)，任散騎常南齊書侍，將軍如故。世祖駕崩，朝廷怕北虜南侵，任命薛淵為假節，軍主、本官如故。不久加授驍騎將軍，假節、本官如故。隆昌元年(494)，出京任持節、督司州軍事、司州刺史，右將軍如故。延興元年(494)，進號平北將軍，未拜，亡故。明帝即位，下詔撥錢五萬，布五百匹，定下日子舉行葬禮。