河南位于黃河中下遊，因大部分地區在黃河以南，故名河南。2000多年前，為中國九州中心之豫州，故簡稱為“豫”，且有“中州”、“中原”之稱。
河南為中華民族主要發祥地之一。物華天寶，人傑地靈，英才輩出。遠在四千年前的新石器時代，中原人民就創造了著名的“裴李崗文化”、“仰韶文化”和“龍山文化”。這裏曾孕育出我國古代的思想家李耳、莊子，政治家商鞅、李斯，科學家張衡，醫聖張仲景，文學家韓愈，哲學家程顥、程頤，民族英雄岳飛以及吉鴻昌、楊靖宇、彭雪楓、鄧穎超等歷史名人1000多人。在漫長的歷史長河中，河南在中國的政治、軍事、經濟、文化上始終佔據重要地位。先後有20個朝代建都或遷都于河南，中國七大古都河南就佔有三個（洛陽、開封、安陽）。
在河南這片土地上，曾上演過一幕幕歷史活劇，諸如武王伐紂、周公營洛、春秋諸侯爭霸、戰國群雄逐鹿、劉邦項羽對峙、光武劉秀興漢、曹魏中原稱雄、隋末瓦崗暴動、趙匡胤陳橋兵變、岳飛抗金鏖兵、李自成中原血戰、京漢“二七”風暴、劉鄧大軍挺進中原等。歷史的風雲變幻，無不在中原大地留下深深的痕跡。
河南歷史悠久，文化光輝燦爛，是我國古代文明發祥地之一。從南召縣雲陽鎮發現的古人類臼齒化石，連同澠池、許昌、安陽等地出土的各種舊石器，證明距今四五千萬年前這裏已有人類居住。七八千年前的裴李崗文化(在新鄭縣境)，五六千年前的仰韶文化(澠池縣境)，四千年前的龍山文化，這些新石器時代的文化遺址，迄今已發現千處之多。說明河南在原始社會晚期的文化已達到一定的高度。自有史以來，夏王朝在河南建都的地方有陽城(登封)、陽翟(禹縣)、帝丘(濮陽)等地。商朝7次遷都，4次都在河南境內，安陽殷墟是著名的商代後期都城遺址。西周以洛陽為東都，營造為王城和成周城，在河南境內分封的諸侯國有數十。春秋時期，境內屬秦、晉、楚、宋、衛、鄭、陳、蔡諸國。戰國時屬韓、魏、趙、楚之疆。秦統一中國後，設郡、縣。河南分屬三川、潁川、南陽、河內、陳郡、東郡和碭郡7郡。西漢承秦制，仍設郡、縣兩級，並實行分封諸侯王國與中央直轄的郡交錯分布。為了加強對郡、國的控制，又將全國分為司隸校尉部及13州刺史部，實際是監察區。河南分屬司隸校尉部及豫、兗、荊、冀4州管轄，設有弘農、河內、河南、潁川、汝南、陳留、南陽和魏郡及淮陽和梁國2個諸侯王國。東漢都雒陽(洛陽)、實行州轄郡、郡統縣。河南分屬司隸校尉部及豫、兗、荊、冀、揚5州管轄，設有弘農、河內、潁川、南陽、汝南、陳留、東郡、魏郡等郡及陳、梁2國。三國時河南屬魏，先都許昌，後遷洛陽，仍實行州、郡(國)、縣3級。設有12郡和梁國1國。西晉都洛陽，河南境內有18郡國。南北朝時，河南分屬于北魏和南齊。北魏在河南設8州26郡；南齊在河南設3州12郡。隋統一南北後，在河南設20郡(州)。唐朝先都長安，後遷洛陽。河南分屬京畿及河南、河北、淮南、山東南等道，領有21州郡及河南1府。五代時，梁、晉、漢周4朝都汴(今開封)，後唐都洛陽。河南境內多數稱州，少數稱軍、府。北宋建都汴梁(今開封)。河南境設有京東、京西、河北諸路，路轄有府、州，有些軍、監也隸屬于路。府、州、軍均轄縣。南宋南遷後以淮河與金為界，河南大部屬金。元朝將中央轄區直屬中書省，其他地區分設行中書省，簡稱“行省”，行省之制始于此。“行省”之下統路、府，府領州、縣，也有府、州不隸路而直屬省。時河南境內黃河以北地區屬中書省，黃河以南屬河南江北行中書省。中書省在河南管轄的有大名、彰德、衛輝、懷慶等路和濮州。河南行省下屬河南府路、汴梁路、南陽府、汝寧府、歸德府。明朝改行中書省為承宣布政使司，司(省)下轄府、州，再下為縣。明末，河南領有開封、歸德、河南、南陽、汝寧、彰德、衛輝、懷慶等府和汝州直隸州及京師之大名府，山東之東昌府的一小部分縣。共計府屬州31個，縣96。清朝恢復行省，省下為府，再下為州、縣。終清之世，河南領有開封、歸德、河南、南陽、汝寧、陳州、彰德、衛輝、懷慶等9府，鄭、許、汝、陜、光5直隸州和淅川直隸所。府屬州5，縣96。民國初年，改道制。河南設有開封、河北、河洛、汝陽4道，5直隸州，100余縣。1927年廢道尹，實行省、縣兩級制。省下分設行政區(監察區)，區管縣。1946年河南分為12區，共108縣。
中華人民共和國1949年成立後，河南省行政區劃，北界止于黃河，有鄭州、洛陽、陜州、陳留、商丘、許昌、淮陽、南陽、信陽、潢川等10專區和開封、鄭州2省轄市、8專轄市，86縣，省會設開封市。1952年中央人民政府政務院決定撤銷平原省，將所屬之新鄉、安陽2省轄市及新鄉專區及所屬14縣（區），濮陽專區及所屬7縣，安陽專區及所屬6縣，菏澤專區的東明縣劃歸河南省。同年，中央人民政府政務院決定，將舊屬河南省在建國初期劃入安徽省的永城縣劃歸河南省。1954年，河南省府由開封市遷駐鄭州市。1963年中華人民共和國國務院決定，將東明縣劃歸山東省。1964年中華人民共和國國務院決定，將山東省之范縣、壽張2縣金堤河以南地區和范縣縣城附近劃歸河南省，取名范縣。1978年中華人民共和國國務院決定，將范縣東部的9個公社劃出，成立臺前縣。
