江总字总持，济陽考城人。是晋朝散骑常侍江统的十世孙。其五世祖江湛，为宋朝左光禄大夫、开府仪同三司，封爵号忠简公。祖父江..，为梁朝光禄大夫，称名当代。父亲江纟不，为本州迎主簿，年少时父亲去世，因伤心过度而死，事在《梁书孝行传》。
江总七岁丧父，寄依外祖家。年少时聪明敏捷，性情纯厚。其舅舅吴平光侯萧劢，在当时名望很高，特别钟爱他，曾对江总说：“你节操品行与众不同，神态举止超群出众，将来出名，必当超过我。”江总长大后，勤奋笃学才思敏捷，他家世代相传的书数千卷，江总日夜探究研读，未曾离手。十八岁时，江总初任宣惠武陵王府法曹参军。中权将军、丹陽尹何敬容建府置僚属，设置佐吏，都以显贵的后代担任，江总又授职为敬容府主簿。不久调任尚书殿中郎。梁武帝撰写《正言》才毕，又写《述怀诗》，江总参与写此诗，梁武帝读完江总的诗后，大为叹赏。又调任侍郎。尚书仆射范陽张缵，度支尚书琅邪王筠，都官尚书南陽刘之遴，都才学渊博，因江总年少时出名，张缵等人很是推重，结为忘年之交。刘之遴曾以诗文相赠江总，诗的大意是：“显贵住居崇礼寺，寺院和我栖息的官署相邻。讨厌听到喝道者的吆喝声，总是担心太陽已上三竿。我们在一起高谈阔论兴致无穷，设问作答欢愉无边。从官署请假来与你一同遨游，在例假之日因贪乐忘了退食之规。又何须为了免除我囊中羞涩，委屈自己挪步去那官署看长官们的脸色。上下几千年纵横论谈，品评王侯将相说出了我心中想说的一切。”可见他被学识渊博之人如此钦佩推崇。调任太子洗马，又出京任临安县令，再回京任中军宣城王府内录事参军，调任太子舍人。
梁朝和西魏友好往来，梁武帝诏命江总和徐陵居官出使西魏，江总生病没有前去。侯景寇掠京城，梁武帝诏命江总暂兼太常卿，坚守陈书小庙。台城陷落后，江总在外境维艰中逃难，费了几年时间才到会稽郡，住到龙华寺，便写了《修心赋》，大略评品时事。其赋为：
太清四年(550)秋七月，我因避侯景之乱移住会稽龙华寺。此寺院，是我的六世祖宋朝尚书右仆射州陵侯元嘉二十四年(447)所建。州陵侯的祖父是晋朝护军将军江錋，他从前来到此地，占卜后择居山陰都陽里，有子子孙孙自始至终定居此地的愿望。寺院的范围是房子的旧墙基，寺院左临江右濒湖，面对着山背倚着沟壑，东西相连，南北连绵，州陵侯和苦节名僧一起，同度日月，白天修治经书戒律，晚上阅览群书，休憩于风云之中，凭眺于映月池边。不料华戎不分，朝廷倾沦，因此内心感伤，其情可以想见。泪墨交流，岂能舒缓我的郁结之心。希望后代子孙，怜珍我的心意。
赞美吴楚大地，开启东越之灵气，记载《桧风》于《诗经》，载录职官制度于《周礼》，收藏大禹用金泥所饰之书，镌刻收藏秦代的石刻文字，太史公来此探穴寻禹迹，钟离离开此地后开始发奋读书，信服竹简的价值珍贵，贬斥..王夫的价值连城之说。继奉盛德之大业，寄居安禅古寺，这豫章的旧园林，成为黄金胜地。顺遂我寂寞的幽静之心，好比往镜中远寻可望而不可及，面对遥远飘忽的高山，临近深远的平湖。山脉连绵立耸，落叶沉入水中，早上看吊臂的猿猴从树上跳下，晚上听饥饿的鼯鼠哀吟。果树丛生药草满苑，桃林橘林，枝繁叶茂，遮云盖日。保持自然天真的雅趣，鄙弃人世间的荒诞杂乱，遥望轮廓迂曲的岛屿，面对汇合众流的大江，泛舟于深夜的月光下，散步于清晨光烟缭绕之中。清风引动蝉的鸣叫，骤雨频落于林中，发出萧飒之声，群鸟小戏后知道回巢，流云无意却能自然聚合。
当年在荒野之地建起灵塔，就地筑起禅房，高兴的是林园开阔，树木繁茂。行走于草地之上，坐禅于河渠之旁，坚守戒律云游四方，长年甘于素食，坚固之林可见其边，寂灭之场霎然悟及。此境异于曲终所产生的悲壮气氛，也不是叶落而生的悲凉情境，岂是降志辱身，靠不自露才华来显扬自己。正当风雨如晦之乱州，厌倦于鸡鸣的嘈杂之声，希望避开尘世而高卧，聆听往古高士的遗训。折服于四辩的微言大义，领悟三乘的玄妙之理，排遣十缠的系缚，祛除五惑的尘滓，长久地抛弃荣华富贵，不再追逐势利，但愿忘怀于妻子儿女，把意气用事留给过去，寄望于来年能洞悉稀声大音，怜惜远方游客的悲凉处境，也知道自怜于悟道的无边无已。
江总的第九个舅舅萧勃首先占领广州，他又从会稽去投依萧勃。梁元帝平定侯景之乱后，诏命江总任明威将军、始兴内史，给江总八百斛太守薪俸让他出行。恰逢江陵陷落，江总遂不成行，从此寄居岭南多年。天嘉四年(563)，诏命任中书侍郎回朝廷，管辖侍中省。江总历任司徒右长史，掌东宫管记，给事黄门侍郎，兼南徐州大中正。又授职太子中庶子、通直散骑常侍，东宫、中正职务不变。不久调任左民尚书，后转任太子詹事，中正职务不变。江总因与太子彻夜畅饮，收养良家女子陈氏为女，太子便装去江总住所，皇上怒而免除其职。不久复任侍中，兼左骁骑将军。再任左民尚书，兼左军将军，未授职，又因公事免职。不久任散骑常侍、明烈将军、司徒左长史，调任太常卿。
后主继位后，授职江总任祠部尚书，又领左骁骑将军、参掌选事。又转任散骑常侍、吏部尚书。再调任尚书仆射，参掌选事职务不变。至德四年(586)，江总加任宣惠将军，量置佐史。不久授官尚书令，赐给鼓吹一部，加扶，其他官职未变。后主为江总作策说：“呜呼，尚书省柄政之基石，司会掌管财政经济，韦彪称它们为朝廷之枢机，李固比之为北斗与北极。况且五曹综理，百官协合，同领冢宰之责，专擅台阁之职。惟尔学艺杰出，胸怀宽广，品德高尚，士大夫以为楷模，文人志士，士人君子以为典范，所以能总管六官。你学问渊博，为众人所仰望，官府八座，足为后世楷模，由你端正朝纲掌握准则，正是朕所希望的。今后你要努力啊，勉力建立美善之道，帮助我治理好国家，可要千万慎重啊！”祯明二年(588)，晋号中权将军。京城陷落后，江总入隋朝，任上开府。隋开皇十四年(594)死于江都，时年七十六岁。
江总曾为自己作叙，其大意为：
我历任显达之职，只是徒占其位而已，既不追求实利，也不涉足权势。我曾抚身仰天叹息说，庄青翟官至丞相，无事迹可纪；赵元叔只是任掌计簿的小吏，却光耀列传。我自从在陈朝任职以来，未曾奉承任何人，干预任何事。风尘岁月，身处世俗之人中，多招致怨憎，宦海浮沉，都不放在心上。太建之时，国家权力被下移至众多宵小之手，谄媚嫉妒之风盛行，我屡被排斥罢免，面对命运无可奈何。后主过去在东宫，留心文章的风采，我一向承蒙开导，恩重如山，情深似海。后主继位之日，时常指责我的过错，仰遵天文，改定各种事功，八法六典之制度，无一不亲自统管。昔晋武帝为荀公曾作策说：“周代陈书的冢宰，今日之尚书令。”何况我的才能不及古人一半，而居位食禄不理政事则同于古人。晋太尉陆玩说：“让我做三公，可知天下实在无人。”官位爵禄本是无意得来之物，哪里是我刻意要追求的呢？
少年时潜心于佛教，二十多岁时，到钟山从灵曜寺则法师学佛法。晚年在陈朝任官，与摄山布上人交往，彻悟佛教苦空二境，再次详习戒律，对自己维持一颗善心，对别人广施慈悲，颇知自我勉励，然而不愿食素，并且浸染尘世之烦劳，因此抱愧终生。
江总的自叙，当时人称之为实录。
江总一向行义，性情温和宽厚。好学，善于写文章，尤其擅长写五言七言诗；因他潜心于文章的文采，故得后主的宠爱。他有些小诗之类，为好事者相互传送诵读玩赏，至今流传。后主之世，江总任宰相，他不理政务，只是每天和后主在后宫饮酒作乐，还加上陈暄、孔范、王瑗等十余人，当时称他们为狎玩之客。因此国家日益衰败，典章制度不健全，有上言者，就以犯罪论处，君臣昏庸腐败，以至于国家灭亡。江总著有三十卷诗文集子，都流行于世。