謝琰，字瑗度。年輕時，以節操和才幹著稱，風姿俊美。與堂兄護軍將軍謝淡雖為近鄰，但從不來往，同宗族裡的子弟只與幾個有才氣負美名的交往。拜官著作郎，轉任秘書丞，累遷散騎常侍、侍中。淝水之戰，謝安認為謝琰具有軍政才幹，任命他為輔國將軍，率精兵八千，與堂兄謝玄一道衝鋒陷陣大破苻堅，以戰功封望蔡公。不久逢父謝安去世而離職守孝，服喪期滿，任命為征虜將軍、會稽內史。不久，徵召為尚書右僕射，兼太子詹事，加散騎常侍，將軍封號如故。又遭逢母親去世，朝廷對其葬禮級別猶豫不定。當時議論者道：「潘岳為賈充之妻作《宣城宣君誄》云：『從前在武侯時，喪禮各不相同。夫妻一體，禮儀同等。』謝夫人葬禮應予資助，一切應照已故太傅謝安從前的標準。」在此之前，王王旬娶謝萬之女，王王旬之弟王珉又娶謝安之女，婚姻都未善終，因此與謝家存有私怨。王王旬當時為僕射，仍因舊怨故意阻撓謝家喪事。謝琰聽說後心中十分恥恨，便自造喪車安葬老母，輿論紛紛指責王王旬器量狹小。
太元末年(396)，朝廷封謝琰為護軍將軍，加右將軍。會稽王司馬道子召為司馬，右將軍封號不變。王恭興兵反抗朝廷，朝廷令謝琰假節，都督前鋒軍事討伐王恭。王恭失敗後，謝琰陞遷為衛將軍、徐州刺史、假節。
孫恩作亂，朝廷命令謝琰都督吳興、義興二郡軍事，討伐孫恩。率兵至義興，斬賊將許允之，迎接義興太守魏鄢回郡所。進兵討伐佔據吳興的賊將丘..，打敗了丘..。朝廷又詔令謝琰與輔國將軍劉牢之一同討伐孫恩。孫恩逃到海島，朝廷深為憂慮，任命謝琰為會稽內史，都督五郡軍事，原先官職一概照舊。謝琰以其門第和聲望鎮守吳越之地，議論者認為朝廷不再有東顧的憂患。謝琰至會稽郡，無安撫之能，且不做軍事防備。手下將佐都勸諫說：「強賊據海上，肯定會察看形勢伺機再起，應該對他們施以仁德，給他們改過自新之路。」謝琰說：「苻堅百萬之眾，尚且送死淮南，何況倉皇逃到海上的孫恩，怎能東山再起！如果孫恩再來，正是上天不容國賊，讓他快來送死而已。」不聽部下之言。孫恩後來果然又侵犯浹口，進軍余姚，攻破上虞，佔領邢浦，離山陰北僅三十五里。謝琰派參軍劉敬宣阻擊孫恩。不久上黨太守張虔碩戰敗，郡賊蜂擁而來，人情震恐，眾人都認為應當穩重固守嚴密防範，而且應將水軍部署在南湖，分兵埋伏以等待孫恩。謝琰不聽。賊兵已到，謝琰還未吃飯，憤然說：「要先滅此寇而後食。」言罷縱馬殺出營帳。廣武將軍桓寶為前鋒，衝鋒陷陣，殺敵眾多，而水塘小路狹窄，謝琰率軍士魚貫而進，賊兵駕駛戰船靠近官軍用箭矢猛射，使官軍前後分割開來。謝琰行至千秋亭，大敗。謝琰帳下都督張猛從後面砍倒謝琰的戰馬，謝琰掉下馬來，與二子謝肇、謝峻一同遇害，桓寶也戰死在陣前。後來劉裕在左裡大敗賊兵，生擒叛將張猛，送交給謝琰的小兒子謝混，謝混剖開張猛胸腹，生吃其心肝。朝廷因謝琰父子為國為君而死，忠孝集於一門，特下詔追贈謝琰為侍中、司空，謚號為忠肅。
謝琰有三子：謝肇、謝峻、謝混。謝肇歷任驃騎參軍，謝峻因謝琰的功勳被封建昌侯。遇害後，朝廷下詔追贈謝肇為散騎常侍，謝峻為散騎侍郎。