富蕴县境，汉代为匈奴地，隋唐属西突厥，元代为蒙古诸王封地，明代为瓦刺民族牧地，清代属科布多参赞大臣管辖。
直到民国8年（1919年）阿勒泰改属新疆省，民国26年（1937年）由布伦托海析出，设置可可托海设治局，民国30年（1941年）改设治局为三等县，定名富蕴，县府设可可托海，解放后富蕴县党政机关仍设在此。中华人民共和国成立后相继隶属阿勒泰专区和阿勒泰地区，富蕴于1950年成立县人民政府。1953年建立区乡政权时，这是富蕴县一区、二乡的辖区，1956年撤销一区建置成立可可托海镇人民委员会，1959年县党政机关迁离，1970年成立镇革委会，1980年改称人民政府，1984年经自治区人民政府正式批准为可可托海镇。可可托海镇是额尔齐斯河第一镇。
2005年9月，国土资源部批准可可托海为国家地质公园，这为有效保护可可托海地质遗迹景观，合理开发利用，为其可持续发展奠定了基础。
2006年，县委、县政府以国家地质公园为品牌通过招商的形式引进了新疆远方旅游有限公司对地质公园进行建设和管理，并启动新疆富蕴可可托海国家地质公园揭碑开园建设。
2008年7月15日，新疆富蕴可可托海国家地质公园正式揭碑开园。
2011年5月31日，以富党发〔2011〕42号文件批准成立新疆富蕴可可托海国家地质公园管理委员会，行使地质公园管理职责。2011年8月，被中华人民共和国国土资源部批准成为国土资源科普基地。
2012年1月，被国家旅游局批准为“5A”级景区。2012年启动世界地质公园申报工作。
2014年，根据自治区党委编办新党编办〔2014〕76号和阿勒泰地委阿地党编办〔2014〕105号的文件批复精神，设立新疆富蕴可可托海国家地质公园管理委员会，设置7个内设机构。