生于福建厦门，卒于北京。13岁进私塾，18岁到上海读中学，1911年毕业于圣约翰大学。在圣约翰大学期间，是该校足球、网球、棒球、田径等代表队的主力队员。1905年曾参加上海万国运动会，获1英里跑冠军。1910年参加中华民国第1届全国运动会，获880码跑冠军。1914年应聘到北京清华学校任教，在清华学校、清华大学工作了52年，先后任北京冬日的早晨，80高龄的马约翰在室外舞太极剑。助教、教授、体育部主任。

　　1919～1920年及1925～1926年，他两次到美国斯普林菲尔德学院（春田学院）进修体育。1936年担任中国田径队总教练，到德国参加奥林匹克运动会，后赴欧洲一些国家考察和讲学。在长期的体育教学实践中，他深入研究体育运动规律，创造出生动活泼而有力的徒手操编组的程序和方法；又根据田径、球类等项运动的特点和训练的需要，编制出各种不同内容的徒手操。1950年发表《我们对体育应有的认识》一文，较全面地阐述了体育的科学基础、运动对生理的影响、技能的训练方法，以及体育和生物学、心理学、哲学之间的关系。

1949年当选为中华全国体育总会副主席，1956年当选为主席；1953年任中华人民共和国体育运动委员会（今国家体育总局）委员；1954、1959年和1964年当选为第一、第二、第三届全国人民代表大会代表。马约翰终生坚持体育锻炼，在体育理论研究和教学实践中均作出可贵的贡献，著有《体育的迁移价值》《我的体育经历十四年》等。