昌義之，歷陽烏江人。年幼時有軍事方面的才幹。齊朝時跟隨曹虎征戰，多次立下戰功。曹虎任雍州刺史時，任用昌義之出補防..，出任馮翊戍主。到曹虎卸任返回，昌義之留下侍奉高祖。當時天下新亂，高祖也優待他。義師舉事，高祖詔令義之任輔國將軍、軍主，拜官授職建安王中兵參軍。當時竟陵、芊口有邸綁，高祖派義之乘馬前往，每戰必勝。大軍停留在新林，義之跟隨王茂到新亭，在緊挨朱雀航的地方力戰，斬殺的敵人繳獲的軍器很多。建康城平定之後，昌義之被封為直..將軍、馬右夾..主。天監元年(502)，義之被封為永豐縣侯，食邑五百戶。授驍騎將軍，出任日於眙太守。天監二年(503)，陞遷假節稱號，督北徐州諸軍事、輔國將軍、北徐州刺史，坐鎮鍾離。魏軍侵犯州鏡，義之攻破魏軍。天監三年(504)，晉號冠軍將軍，增加封邑二百戶。
天監四年(505)，梁軍大舉北伐，揚州刺史臨川王統率眾軍駐軍洛口，義之以一州之兵受臨川王調遣，充當前軍，攻打魏國梁城戍，攻下。天監五年(506)，高祖因徵召兵役太久，下令班師回朝，眾軍各自逃散，魏中山王元英乘機追躡，攻陷馬頭，城內糧食儲備，魏軍全部轉移回北方。議事的人都說：「魏人將糧食運回北方，應當不再南下了。」高祖說：「並非如此，這一定是要進兵，我們所看到的並非真實的情況。」於是派工匠修築鍾離城，下令昌義之做好作戰防守的準備。這年冬天，元英果真率領安樂王元道明、平東將軍楊大眼等將士數十萬，侵犯鍾離。鍾離城北面有淮水倚仗，魏軍在邵陽州西岸建浮橋，成為橫跨淮水的通道。元英佔據東岸，楊大眼佔據西岸，攻打鍾離城。當時城中只有三千人，昌義之督促將帥，靈活抵禦。魏軍便用車裝土填塞壕溝，讓它的士兵背土跟在後面，厲害的騎兵從後面迫促，有未及時返回的人，便用土逼迫他，不多久壕溝填滿了。元英和楊大眼親自督戰，日夜苦攻，輪流替換，一人落下他人再上，沒有後退的。又設計飛樓、沖車撞擊城牆，所撞到的城牆的土塊馬上就塌落下來。昌義之便用泥土補上缺口，沖車雖然進來了，但城牆不致毀壞。昌義之擅長射擊，凡被攻打危急的地方，昌義之就騎馬奔去救援，凡他彎弓指向的人，沒有不應弦而倒下的。義之一天戰數十個回合，前後被殺死射傷的人數以萬計，魏軍死的人與鍾離城相平。
天監六年(507)四月，高祖派曹景宗、韋睿率軍二十萬援救昌義之。大軍到達，同魏軍作戰，大敗魏軍，元英、楊大眼等各自脫身逃走。昌義之於是率輕裝部隊追到洛口返回，魏軍被斬首的、生擒的，不計其數。昌義之因功進號軍師將軍，增加食邑二百戶，陞遷持節稱號、督青、冀二州諸軍事、征虜將軍、青、冀二州刺史。義之尚未受職，改督南兗、兗、徐、青、冀五州諸軍事、輔國將軍、南兗州刺史。因坐禁物離開封地，被有司所奏免去上述官職。當年，出補朱衣直..、拜官授職左驍騎將軍，直..如同從前。陞遷太子右衛率，兼任越騎校尉，封假節稱號。天監八年(509)，出封持節稱號，都督湘州諸軍事、征遠將軍、湘州刺史。天監九年(510)，以上述封號回到朝廷，不久擔任司空臨川王司馬，將軍如從前。天監十年(511)，陞遷右衛將軍。天監十三年(514)，改任左衛將軍。
這年冬天，高祖派太子右衛率康絢督眾軍興修荊山堰。第二年，魏朝派將領李曇定率大軍進逼荊山，揚言打算決開荊山堰，高祖下詔借給昌義之符節，率太僕卿魚弘文、直..將軍曹世宗、徐元和等援救康絢，義之的大軍還未到達，康絢等人已攻破魏軍。魏朝又派大將李平攻打峽石，包圍直..將軍趙祖悅，昌義之又率領朱衣直..王神念等援救趙祖悅。當時魏軍士卒充足，王神念攻打峽石的浮橋不能攻下，因而援兵不能按時行進，於是峽石陷入敵手。昌義之班師回朝，被有司向皇上進言，高祖因義之是有功之臣，沒有問罪於他。
天監十五年(516)，高祖又加封昌義之使持節稱號，都督湘州諸軍事、信威將軍、湘州刺史。當年，改授都督北徐州緣淮諸軍事、平北將軍、北徐州刺史。昌義之性情寬厚，擔任將領能夠安撫駕馭士卒，有拚死為他效力的人，到任州刺史，官吏百姓安寧。不久高祖詔贈義之鼓吹一部，改封營道縣侯，食邑如從前。普通三年(522)，徵召義之為護軍將軍，鼓吹如從前。普通四年(523)十月，去世。高祖對昌義之的去世感到非常悲痛，下詔令說：「護軍將軍、營道縣開國侯昌義之，才幹謀略隱伏著成功，胸懷寬廣隱忍，顯明的忠誠從任職時始，功效顯著邊境誠服。正準備申報為輔佐大臣，將京師之軍托付給他；突然去世，悲痛在心。可贈散騎常侍、車騎將軍，並鼓吹一部。贈給東園秘器、朝服一具。辦喪事的禮錢二萬，布二百匹，蠟二百斤。謚號烈。」
昌義之的兒子寶業繼承，寶業官至直..將軍、譙州刺史。