張瓊，字連德，代地人氏。年輕時強壯健康，有武藝，魏朝時從蕩寇將軍升為朔州征虜府外兵參軍。隨葛榮作亂，榮敗，爾朱榮拜他做了都督。因征討元顥有功，除汲郡太守。建明初，為東道慰勞大使，封行唐縣子，食邑三百戶。轉太尉長史，出為河內太守，除濟州刺史。爾朱兆敗，投奔高祖，遷汾州刺史。天平中，高祖偷襲夏州成功，以瓊為慰勞大使，並留他鎮守夏州。不久，瓊因周文帝攻城，戰死。贈使持節、燕恆雲朔四州諸軍事、大將軍、司徒公、恆州刺史。瓊有二子，長曰忻，次曰遵業。
忻，普泰中為都督，是爾朱世隆的麾下。因軍功娶魏平陽公主，拜駙馬都尉、大將軍、開府儀同三司、建州刺史、南鄭縣伯。瓊經常擔憂忻的官位顯赫，對親近熟識的人說：「凡人做官得爵，不如不高不低，忻位秩過高，這是我最大的憂慮。」忻豪險放縱，又與公主感情不和，很快遭到武帝的迫害，時人認為瓊有先見之明。
遵業，征討元顥立下軍功，封固安縣開國子，拜寧遠將軍、雲州大中正。天平中，除清河太守，不久加安西將軍、建州刺史。武定中，隨儀同劉豐討伐侯景，被景擄獲。侯景敗，在渦陽殺死了遵業。遵業屍體運回來時，世宗親自弔唁，贈其並肆幽安四州軍事、開府儀同三司、并州刺史。