蔡廓字子度，济陽考城人。曾祖父蔡谟，是晋朝的司徒。祖父蔡系，是抚军长史。父亲蔡纟林，是司徒左西属。
蔡廓博览群书，言语行动都依礼而行。刚开始他当著作佐郎。当时桓玄辅佐晋朝，打算恢复肉刑。蔡廓上书说：“建立政治设立刑法，宣明政治，必须因时制宜，恩威并施。统一法令防止人们的邪恶欲望，教令舆论约束人们的怠慢，施恩惠给人民，降下惩罚以建立威权，和风细雨，人民温和而恬淡。胆小怕事的人，听说法条而警戒自己。虽然文雅朴实循环交错，但这些法规是不改变的。古人设立肉刑，是从圣明的皇帝时代开始的。大概古时候民风淳朴而谨慎，法条明白，所以投机的心理便收回了，在此上处以犯人死刑，那么亡命之徒也会改正缺点。所以当时慢慢天下太平，达到无为境界。而世纪末时代风俗虚伪残酷，法令繁多，营利取巧的心思越来越多，畏惧的心理越来越少，即使终生不停地要他服艰苦的劳役，也不能遏制他们的奸诈的企图，况且像在脸上刻字、割掉鼻子之类的刑罚，怎么能让他们改恶从善。徒然听到在残酷刑法中的呻吟声，但对当时的政治并无帮助。至于砍去犯人的脑袋，确实是有不能原谅的罪行。而有些不是亲手杀人的人，也被判处死刑，轻罪和重罪同样处理，减刑、降刑的途径被堵塞，陈群、钟繇因此上书提议，元皇为此而发怜悯心。如今英明的宰相们辅佐皇朝，几乎赶上伊尹和周公，虽然雍塞不通的天运刚开始打通，但是前代留下的问题还未解决。确实应该谨慎地施行刑罚，爱护百姓，广泛的抚育。同情不幸的人，除去多余的刑罚，把砍头的刑罚移到砍肢体。保全犯人的性命，使民生户口不断地滋长，使将要断截的骨肉，获得人世间新恩泽。恩威同时显现，感恩戴德和谨慎小心具备在人们的心头，保全生灵，铲除暴政，正在于此。”
蔡廓迁任司徒主簿，尚书度支殿中郎，通直郎，高祖的太尉参军，司徒属，中书、黄门郎。因为正直刚毅，能干练达，被高祖所欣赏。到高祖兼兖州刺史时，蔡廓当别驾从事史，被委任州中事务的处理大权。不久又被任为中军谘议参军，太尉从事中郎。还未拜任，便遇到母亲去世。他非常孝顺，三年没梳头，没洗澡，几乎承受不了丧事的打击。守孝期满，相国府再命他当从事中郎，兼记室。宋国台阁开始建立，他当侍中，他建议：“审理犯人不应该叫子孙证明祖父和父亲的罪行，这样亏损教化，伤害父子感情，没有比这更大的了。从今以后只教亲人与犯人相见，不需审查的诉说，便足以明确罪行，也不需亲人去证明罪行。”朝中都认为这个建议很好，采纳了。
世子左卫帅谢灵运轻易杀人，御史中丞王准之因为不弹劾被免官，高祖因为蔡廓很刚直，容不得冤枉，补任他当御史中丞。蔡廓对很多人都加以纠察或弹劾，朝廷百官非常震恐。当时中书令傅亮极得皇帝宠待，学问无比渊博，朝廷的典章制度，活动礼仪，都由傅亮决定，而傅亮每次都要向蔡廓咨询然后施行。傅亮如果有自己的看法，蔡廓终究坚持自己的观点。当时对扬州刺史庐陵王刘义真的朝中位次决定不了，傅亮给蔡廓写信说：“扬州自然应该穿刺史的衣服。然而人们认为朝拜次序，应在朝廷各位官员之上，不应按官职大小坐定。请你再去研究一下。《诗序》说：‘国王的女儿下嫁给诸侯，衣服、礼仪、位次，不根据她的丈夫来定。只比国王王后低一等。’按国王的女儿比王后低一等，那么皇帝的儿子自然在王公的上面。陆机的《起居注》以及式乾殿集会规定：皇帝的儿子们位次在三公之上。现在抄在这里。另外海西公即位时赦文，太宰武陵王位次第一，抚军将军会稽王第二，大司马第三。大司马官职最高，另外又当督中外诸军事，而位次在二王的下面，难道不是比皇帝的儿子低一等吗？这些文字现在都在。永和年中，蔡谟先生当司徒，简文帝那时当抚军将军和开府仪同三司，二人共掌朝政。蔡先生当正官，位次不应该反而在仪同三司之下。而当时的位次，简文帝(那时不是皇帝)在第一，蔡先生在第二。这些例子很多，不能全部写出。扬州刺史反而位次在公卿的下面，恐怕这不合礼仪，是不是应该改正呢？”
蔡廓回答说：“扬州刺史的位次反而在公卿之下，我也常常怀疑。然而朝廷按职务排位次而不按本来的封爵，又没有明文规定给皇帝的儿子待以特别礼仪。齐献王当骠骑将军，孙秀来投降，晋武帝想优待他，以孙秀为骠骑将军，转齐献王为镇军将军，在骠骑将军之上，如果按足下的观点，皇帝的儿子位次在三公之上，那么齐献王本来的位次是很高的，为什么又要改任他为镇军，叫他在骠骑将军之上，显然那是按官位来确定位次的。另外齐王当司空，贾充为太尉都当录尚书事，而齐王位次常在贾充的后面，潘正叔上奏《公羊传》中的事，当时三个录尚书事，梁王肜当卫将军，位次在太尉陇西王司马泰、司徒王玄冲之下。近来太元初年，大家恭贺新宫殿落成，司马太傅当中军将军，而以齐王司马柔之作为祝贺的第一名。立安帝为太子时奉上礼仪，徐邈当郎官，他认为按位次太傅在亲王们的下面。又拜谒李太后，宗正尚书符令以高密王为第一位，当时王东亭当仆射。王和徐都是近代通达古今的人物。足下引用式乾殿集中公王事为证，我认为还不能作例子。其中说皇上在式乾殿中，召见侍中彭城王曹植、荀组、藩岳、嵇绍、杜斌，然后才说足下所写的四位亲王，位次在三公之上，结果实际反而在黄门郎之下，有什么意义呢？况且四位亲王之下应该是大将军梁王肜、车骑将军赵王伦，然后是司徒王戎。梁、赵二王也是皇帝的儿子，是尊贵的皇亲，而且他们官职一样，位次在豫章王常侍的下面，又说不通。大概记事的人描叙当时的事情经过，不必记录当时朝拜的班次，式乾殿也不过是私宴，和上朝时不一样。今日含章殿西堂拜会时，足下位次在仆射之下，侍中在尚书下。你信中又说我的曾祖和简文共任录尚书事，位次在简文帝之下。我家传说的则不是这样，现在写在这里。国王的女儿本身并无爵位，所以能不随同丈夫而以国王女儿作为位次。皇子出任便有官位，有官位便根据官职大小确定位次。只有引用的泰和赦文，勉强可以说得上。然而赦文的前后，也不完全一样。太宰是比三公大的官，自然在大司马之前。简文帝虽然是抚军将军，然而当时已被授予丞相的特别官职，又兼任都督中外诸军事，所以以本来的职位作为位次，不因为督中外诸军事便可以在三公的上面。如今护军将军不过是方伯而已，而位次自然在持节都督之下，足下再想一想。”
蔡廓迁任司徒左长史，出外当豫章太守，再调为吏部尚书。蔡廓通过北地人傅隆向傅亮说：“选举官吏的事务如果全部交给我，我可以接受吏部尚书职务，不然，便不会拜任的。”傅亮把蔡廓的话告诉了尚书徐羡之，徐羡之说：“黄门郎以下的职务，全部委托给蔡廓，我们一概不管，从这上面的官员，自然大家共同磋商。”蔡廓说：“我不能为徐干木在纸尾上署名。”于是不拜任。干木，是徐羡之的小名。选择官员签署委任书，录尚书和吏部尚书必须连名签署。所以蔡廓说：“在纸尾上署名。”徐羡之也认为蔡廓太方正刚直，不想叫他在这么重要的位置上，转他当祠部尚书。
太祖从荆州回来继承帝位，尚书令傅亮率领朝中大臣迎接，蔡廓也参加了。到寻陽时，蔡廓病了，不能前行。傅亮将继续赶路，到蔡廓那里作别，蔡廓对他说：“营陽王在吴县，应该好好地供奉，营陽王如果遇到意外，你们便有杀皇帝的名声，想在世上立身，岂有可能吗？”傅亮已和徐羡之商量好了害死营陽王，于是马上派人阻止，使者到后，已没有赶上。徐羡之大怒说：“与别人共同商议好了的事，为何才转了个背，便把罪过推到别人身上？”到太祖即位，谢晦将到荆州赴任，和蔡廓道别，支走其他的人问蔡廓：“我可以免除祸乱吗？”蔡廓说：“你接受先帝的临终托付，承担国家的大责任，废除昏君，树立明圣，按道理说是可以的，但是杀了人家的两个哥哥，挟仗使主君震惊的权威，据有上游的重要形势，从古今事势看来，免除祸患恐怕很难啊。”
蔡廓年龄官位都很小，但被当时显要人物所推重，逢年过节，显要们都到蔡廓家里拜访。他对他的哥哥蔡轨非常恭敬，像对父亲一样。家事大大小小，都请示蔡轨之后才施行。公家的俸禄和朝廷的赏赐，他全部交给蔡轨，如果需要钱财，全部到当铺中点当。随从高祖在彭城时，他的妻子郗氏写信来要夏天的衣服，蔡廓回信说：“知道了，你需要夏天时装，给事中自然会给你，不需另寄。”当时蔡轨当给事中。元嘉二年(425)蔡廓逝世，享年四十七岁，高祖曾经说：“羊徽、蔡廓可以做和平时代的三公。”蔡廓的小儿子是蔡兴宗。