中国煤矿体育协会成立于1955年4月，同年7月在北京召开全国煤矿第一届职工体育大会。
由于历史原因1962-1984年，中国煤矿体育协会暂时停止活动。

1984年12月，根据中央《关于进一步发展体育运动的通知》精神，经煤炭工业部党组批准重新组建中国煤矿体育协会，并在北京西郊宾馆召开中国煤矿体育协会恢复成立大会。

中国煤矿体育协会原业务主管部门为国家体育总局。按照国务院的要求，2017年7月完成脱钩工作。

中国煤矿体育协会承载着煤矿职工与国家体育事业发展的桥梁和纽带职责。主要业务范围：一是贯彻相关法律法规赋予行业协会的有关职责，贯彻执行党和国家有关体育工作的方针政策；二是贯彻《全民健身条例》，制定行业职工健身指导意见，推动煤矿职工开展体育活动；增强煤矿职工身体素质，丰富煤矿职工精神文化生活，促进和谐矿区建设；三是按照普及与提高协调发展的方针，组织开展全行业体育竞技比赛，提高煤矿职工体育竞技水平；四是组织煤矿职工参加体育比赛和体育交流活动；五是深化煤矿体育机制改革，促进群众体育、竞技体育、体育产业、体育文化在矿区全面可持续发展，服务煤矿职工多元体育需求；六是开展业务培训工作，组织煤矿教练员、裁判员、社会体育指导员的培训，提高煤矿体育骨干的整体素质和专业水平；七是经政府有关部门批准，总结推广煤矿体育先进经验，规范煤矿职工全民健身评比和达标活动，发挥先进典型的示范和引导作用；    八是承办政府部门和业务主管部门委托交办的其他事项及依照法律和法规办理的事项。

成立以来，分别在1955年、1988年、1998年、2007和2015年举办了五届全国煤矿职工运动会。“乌金杯”比赛已成为煤炭行业的体育竞赛的品牌赛事，已成功举办了200多项次。“乌金杯”比赛和全国煤矿职工运动会，推动了煤矿职工体育健身活动的开展，促进了群众体育竞技水平的提高。