沛（今江苏沛县）人。早年为秦沛县狱掾。秦二世元年（前209）随刘邦起兵反秦，为中涓。后在推翻秦王朝、楚汉战争以及汉初平定异姓王侯的战役中屡建战功，历任假左丞相、左丞相等职。汉高祖刘邦即皇帝位后，迁齐相国，次年赐爵平阳侯，食邑平阳16300户。


惠帝即位后，曹参为齐丞相。他召集当地长老询问安定民生的办法，采纳胶西盖公的黄老术，在齐国推行清静无为、与民休息的政策。在担任齐国丞相的9年期间，齐国政治安定，大受百姓称赞。惠帝二年（前193），曹参继萧何为相国后，按照萧何制定的成法行事，诸事无所变更；委任属官，总是选择郡国官吏中不善辞令的忠厚长者，任相3年，收到了很大的成效，汉初的安定局面得到了巩固和发展。经曹参的提倡和实行，道家“无为而治”的思想成为汉初封建统治者的指导思想。其后出现的文景之治与曹参的业绩有着直接的关系。