鄭州在古代有多箇名稱，包括滎州、管州、滎陽郡、管城、故市、管城縣、鄭縣等。隋文帝在581年建立隋朝後，將北周時的滎州改名爲鄭州，從此鄭州這一名稱開始用於今鄭州地區。隨後，鄭州經歷了多次更名，包括在596年改稱管州，606年複稱鄭州，758年取消滎陽郡名稱仍稱鄭州。金貞佑四年（1216年）管城更名故市，後複名管城縣。1928年，鄭縣被改名爲鄭州市，1931年撤市復改鄭縣。1948年10月22日，中國人民解放軍解放鄭州後，再次設立鄭州市。
此外，鄭州在古代還曾是商代早期商王成湯所建的“亳都”，西周時爲管叔的封地，名曰管國。戰國至秦漢時期，改稱爲管縣。公元606年，管縣改名爲鄭州。