江总字总持，七岁而成为孤儿，住在他的外公家。幼年聪明敏捷，具有淳厚的性情。大舅吴平侯萧劢在当时名气很大，对他特别钟爱，对他说：“你神采英拔，以后出名，当会在我以上。”
长大后，刻苦学习，富有文采。在梁朝做官担任尚书殿中郎。武帝撰写《正言》刚完，作《述怀诗》，江总参与了此诗的写作。皇帝看了江总的诗，深表赞赏。转任侍郎。尚书仆射范陽人张缵、度支尚书琅笽人王筠、都官尚书南陽人刘之遴都是高才博学，江总当时年少有名，张缵等对他非常推重，成为忘年朋友。刘之遴曾经写诗酬答江总，对他深深推尊。
逐步升迁为太子中舍人。侯景贼兵侵犯建邺，诏令由江总临时兼任太常卿，守卫小庙。台城沦陷以后，在会稽郡避难，在龙华寺休息，于是写成《修心赋》。江总的第九舅萧勃先占据了广州，他又从会稽前去归依。后来元帝平了侯景，征他为始兴内史。正赶上魏朝攻陷了江陵，没有成行，从此流寓岭南多年。
陈朝天嘉四年(563)，被征还担任中书侍郎。逐步升任左户尚书，转任太子詹事。江总性格宽和温存，尤其擅长五言七言诗，流于浮靡。后来成为宫中幕僚，和太子进行长夜的宴饮，收养了太子的良娣为女儿，太子屡次换上便装到江总家里去，宣帝发怒而免去了他的职务。后来又历任侍中、左户尚书。
后主即位，历任吏部、尚书仆射、尚书令，加赐扶持人。当权任补相以后，不主持政务，只是日夜与后主在后庭中游宴，写了很多艳诗，喜欢的人相传讽诵玩赏，至今不绝。只是与陈暄、孔范、王誾等十几人交好，当时称他们为狎客。由此国政日益衰颓，纲纪不能树立，有提出不同意见的，便定为罪名加以贬斥，君臣昏乱，以致灭亡。
祯明三年(589)，陈朝灭亡，入了隋朝，封为上开府。开皇十四年(594)，死在江都，年龄七十六岁。他写的《自序》中说：“太建时期(569～582)，权力移到了一群小人的手中，谄媚嫉妒，大肆作威，屡次遭到打击罢免，有什么办法呢，这是命运。”有识者讥笑他的言行乖谬。著有文集三十卷。