生于阜姆（今克罗地亚里耶卡），卒于布达佩斯。因家贫，童年即开始做工，当过猪倌、学徒、辅助工、仪器工等。1929年，参加工人运动。1931年，加入匈牙利共产主义青年工人联盟。1932年，任该组织中央书记。同年，转为匈牙利共产党党员。从1931年起，多次被霍尔蒂·米克洛什警察当局逮捕。1935年，被判2年徒刑。1936年，第三国际解散匈共中央。

卡达尔·亚诺什出狱后参加社会民主党，任此党第六区支部书记、区委委员。1941年夏，任匈牙利共产党布达佩斯地区委员会领导人。1942年5月，任匈共中央委员。次年，当选为中央书记，同时担任反法西斯独立运动负责人。1944年4月再次被反动当局逮捕，11月在被押解途中逃脱。1945年匈牙利解放后，历任布达佩斯民主警察局副局长、匈共中央干部局局长、匈共布达佩斯市委书记等职。1945年5月匈共全国代表会议期间，当选为中央政治局委员、书记处书记。1946年10月匈共第三次全国代表大会上，被选为中央政治局委员、副总书记。1948年6月，匈共同社会民主党合并为劳动人民党，仍当选政治局委员、副总书记。1948年8月至1950年6月，任政府内务部部长。1950年6月，任党中央党群组织部部长。1951年5月，受诬陷被捕入狱。1954年秋获释，恢复名誉，任匈牙利劳动人民党布达佩斯第十三区区委书记。1955年，任佩斯州党委第一书记。

1956年7月，他当选为中央委员、政治局委员、中央书记。1956年10月24日，任劳动人民党中央第一书记。11月4日，担任工农革命政府主席。同时开始在劳动人民党的基础上重建党的组织，改名匈牙利社会主义工人党，1957年起任第一书记。1958年1月，辞去政府主席职务，改任国务部部长。1961年11月至1965年6月，任部长会议主席。1964年起，任爱国人民阵线全国理事会成员。1965年起，任匈牙利人民共和国主席团委员。1966年，领导制定并经党的第九次代表大会讨论通过经济体制改革的基本原则。1968年1月1日起，匈牙利全国实行经济体制改革。

从1959年匈牙利社会主义工人党第七次代表大会起至1985年第十三次代表大会止，卡达尔·亚诺什均被选为党中央第一书记，“十三大”改称总书记。1988年5月，改任党中央主席。1989年5月，因健康原因辞去党中央主席职务。