早年经历江总字总持，济阳考城人（今河南商丘民权县）。是晋朝散骑常侍江统的十世孙。

江总七岁丧父，寄依外祖家。年少时聪明敏捷，性情纯厚。其舅舅吴平光侯萧劢，在当时名望很高，特别钟爱他，曾对江总说：“你节操品行与众不同，神态举止超群出众，将来出名，必当超过我。”江总长大后，勤奋笃学才思敏捷，他家世代相传的书数千卷，江总日夜探究研读，未曾离手。

十八岁时，江总初任宣惠武陵王府法曹参军。中权将军、丹阳尹何敬容建府置僚属，设置佐吏，都以显贵的后代担任，江总又授职为何敬容府主簿。不久调任尚书殿中郎。

才华横溢梁武帝萧衍撰写《正言》才毕，又写《述怀诗》，江总参与写此诗，萧衍读完江总的诗后，大为叹赏。又调任侍郎。尚书仆射范阳张缵，度支尚书琅邪王筠，都官尚书南阳刘之遴，都才学渊博，因江总年少时出名，张缵等人很是推重，结为忘年之交。刘之遴曾以诗文相赠江总。后调任太子洗马，又出京任临安县令，再回京任中军宣城王府内录事参军，调任太子舍人。

梁朝和西魏友好往来，萧衍诏命江总和徐陵出使西魏，江总生病没有前去。侯景寇掠京城，萧衍诏命江总暂兼太常卿，坚守小庙。台城陷落后，江总在外境维艰中逃难，费了几年时间才到会稽郡，住到龙华寺，便写了《修心赋》，大略评品时事。

江总的第九个舅舅萧勃首先占领广州，他又从会稽去投依萧勃。

梁元帝萧绎平定侯景之乱后，诏命江总任明威将军、始兴内史，给江总八百斛太守薪俸让他出行。恰逢江陵陷落，江总遂不成行，从此寄居岭南多年。

效力陈朝天嘉四年（563年），因任中书侍郎回朝廷，管辖侍中省。江总历任司徒右长史，掌东宫管记，给事黄门侍郎，兼南徐州大中正。又授职太子中庶子、通直散骑常侍，东宫、中正职务不变。不久调任左民尚书，后转任太子詹事，中正职务不变。江总因与太子彻夜畅饮，收养良家女子陈氏为女，太子便装去江总住所，皇上怒而免除其职。不久复任侍中，兼左骁骑将军。再任左民尚书，兼左军将军，未授职，又因公事免职。不久任散骑常侍、明烈将军、司徒左长史，调任太常卿。

陈后主陈叔宝继位后，授职江总任祠部尚书，又领左骁骑将军、参掌选事。又转任散骑常侍、吏部尚书。再调任尚书仆射，参掌选事职务不变。

至德四年（586年），江总加任宣惠将军，量置佐史。不久授官尚书令，赐给鼓吹一部，加扶，其他官职未变。

昏庸亡国祯明二年（588年）晋号中权将军。后任宰相，他不理政务，只是每天和后主在后宫饮酒作乐，还加上陈暄、孔范、王瑗等十余人，当时称他们为狎玩之客。因此国家日益衰败，典章制度不健全，有上言者，就以犯罪论处，君臣昏庸腐败，以至于国家灭亡。

祯明三年（589年）建康陷落后，江总入隋朝，任上开府。

开皇十四年（594年）死于江都，时年七十六岁。