万历三十八年（１６１０），３１岁的蔡国用考中进士。初任中书舍人，奉命督饷赴辽时，见边防废弛，回来后便向上进谏，建议加强边防管理。不久，宽甸（今辽宁境内）一带出现兵乱，人们都说他有先见之明。后升为山西道御史，上疏提出治国七条建议，即定相术、储经略、选将领、筹军需、惜才臣、开言路、鼓边吏。后改调福建道御史。天启五年（１６２５）上疏，陈述时政六事，攻击叶向高、赵南星等人，推荐卞时教、赵兴邦、邵辅忠、姚宗文等七人。叶向高是清流派领袖，赵南星为东林党重要人物，这两人都是当时窃据朝中大权的大太监魏忠贤打击的重点对象。蔡国用攻击他们，正中魏忠贤下怀。于是，魏忠贤假托圣旨，予以褒纳。但是没过多久，蔡国用因违背魏忠贤的意旨，又被魏忠贤勒令闲住。

崇祯元年（１６２８），魏忠贤倒台，蔡国用被起用为浙江道御史，提督应天（今南京）学政。任上，他对江左名士请优黜劣，为官廉洁。调升大理寺丞、少卿，判案甚速，言词犀利，并为陈文宗、秦辅治等冤狱平反，有１９人由此获得生还。后升太仆正卿，晋工部侍郎，负责督修都城。他日夜监守在工地。当时，修城需要很多石块，从外地开采运来，根本来不及。蔡国用便建议拿堆放在崇文门一带的以备皇帝外出修补道路的“牙石”修城。工程完毕，崇祯皇帝非常满意，嘉奖了蔡国用，并打算重用他。崇祯十一年（１６３８）元月，崇祯皇帝命众官推荐内阁辅臣，蔡国用因为资望很轻，未获推荐。崇祯帝便召问群臣，令蔡国用进行条对，获得称许。六月，崇祯皇帝下诏，将蔡国用与兵部尚书杨嗣昌、户部尚书程国祥、礼部侍郎方逢年等五人提拔为礼部尚书兼东阁大学士（宰相），参与机务。后又给蔡国用加太子少保衔，改任吏部尚书、武英殿大学士。崇祯十三年（１６４０）六月，蔡国用卒于任上，享年６１岁。崇祯皇帝特赠太子太保，谥号“文恪”，并派行人司行人、临川著名才子陈际泰等护送其灵柩回乡安葬。

崇祯皇帝执政１７年，撤换宰执近５０位。每位宰相平均任期不超过４个月，而蔡国用任相却达２年，并以武英殿大学士获得善终，这不能不是一件奇事。《明史》称蔡国用为庸才，任相虽然清廉谨慎，但碌碌无为。其实，他的“碌碌无为”不能完全归咎于他的无能。因为他任相时的明王朝已经内外交困，战乱频仍，风雨飘摇，大厦将倾，再加上崇祯皇帝刚愎自用，措制无方，谁又能有多大作为呢？