麻城历史悠久，境内诸多出土文物证明，公元6000年前已有人群在举水流域生活。夏商时期境内属于商王朝控制的小方国“举国”，公元前11世纪以后，成为黄国的属地。春秋战国时期隶属楚地。秦灭六国，兴郡县，先属南郡，后隶衡山郡。两汉时期为“西陵辖地”，隶属江夏郡。三国鼎立，先属魏弋阳郡，后属吴国蕲春郡。
三国归晋。复归弋阳郡。后划归西阳郡。晋永嘉年间发生内乱，北方少数民族入主中原。公元338年，后赵部将麻秋奉命在今阎河古城畈筑城以守，遂称该城为麻城。
南北朝时，境内建置更迭频繁，有建宁左郡、长风、赤亭、阳城、彭城、齐安、信安、北西阳、歧亭、梁丰、衡州等名称。周大象元年（公元579年），北周攻下长江以北大片地区，境内设立“蔴城县”。隋初，罢诸郡为州，境内为信安县，属黄州。开皇十八年（598年），改信安县为麻城县，仍属黄州府。自此，麻城作为县一级行政区划延续至今，有1400余年历史。
大业五年（609年）废州设郡，属永安郡。唐武德三年（620年），分麻城置阳城县，同年在麻城置亭州辖麻城、阳城两县。武德八年（625年）撤亭州，并阳城，恢复麻城旧制，属黄州都督府。元和三年（808年），并入黄冈县，大中三年（849年）恢复。
五代袭唐旧置，先后属吴、南唐、后周辖县。宋属淮西路黄州。南宋绍兴年间（1131—1162年），麻城为南宋北部边界。理宗端平三年避兵乱，县城一度迁至什子山（今市治东40公里）。
元朝统一，初属湖广行省黄州路，后（1292年）随路改属淮西道，次年又改属河南江北行省。至元年间，县治从什子山迁回古城畈。元朝末年，邑人姜铭等筑城于今地，后为县城。
明太祖甲辰年（1364年）属湖广行省黄州府。洪武九年（1376年）属湖广布政司，不久改属河南。洪武二十四年（1391年）还属湖广。崇祯十六年（1643年）张献忠率农民起义军攻占麻城，改县名为长顺州。7月，张部入蜀，县名复归。
清代沿袭明制，属湖北布政司黄州府。
民国元年，废除府治，属武汉黄德道（后更名鄂东道、江汉道），1932年，属湖北省第四行政督察区。
日军侵华。民国1938年10月，麻城沦陷。国民党县政府迁往龟头河。1940年，日伪在宋埠建县署。1944年，国民党县政府又从龟头河迁往阎河山水湾暇形地，1945年，迁回城区。
麻城县是鄂豫皖苏区的重要组成部分。1930年，麻城县苏维埃政府在顺河成立，下辖乘马、顺河、黄土岗、福田河、三河、中宋边区、陶园等7个区苏维埃政府。
抗战时期，鄂豫边区共产党组织在县境南部、西部、东部、北部开展活动，建立了安南边抗日民主政府（1942—1945年）和短期的安麻南行政委员会（1941.2—1942.2），隶属鄂豫边区鄂东行署。
1947年秋，刘邓大军南下大别山。10月在木子店台子湾成立麻东县爱国政府，下辖9个区。同时，在福田河成立麻城（后称麻西）县爱国民主政府，下辖5个区。两县同时隶属鄂豫第四专署。
1949年3月11日，新组建的鄂豫军区独立师攻克麻城，麻城人民从此获得解放。麻东麻西县合并，在阎家河成立麻城县人民民主政府，不久即进麻城县城办公，下辖10个区政府，至5月，全县划为12个行政区，236个行政村，全县面积3600平方公里，人口58万。
新中国成立后，麻城县隶属湖北省黄冈专区（1970年改为黄冈地区）。1986年5月27日，国务院批复撤销麻城县建制，以原县行政区域设立麻城市（县级市），仍属湖北省黄冈地区管辖。8月1日，麻城市正式成立。1995年12月，黄冈地区改为黄冈市（地级市），麻城市属黄冈市代管。1998年9月6日，麻城市委、人大、政府、政协机关由旧城区搬迁至新城区金桥大道特1号办公。