开封地处中华民族的摇篮———黄河流域，在五六千年前，农业和手工业就已相当发展，这个地区曾有相当数量的石镰、陶器等新石器时代的珍贵文物出土。远在春秋时期，郑庄公分封于此，营造城池，取“开拓封疆”之意，而定名为“开封”，这也就是这座古城的名称的由来。战国时期，开封属于魏国，由于魏的旧都安邑（今山西夏县西北）常受强秦侵扰，魏惠王六年（前365年）便迁都到这里，当时叫做“大梁”。历史上孟子见梁（魏）惠王的故事就发生在这个地方。从汉至隋，经过千年经营，开封又逐渐发展，北周（公元557年～581年）时，因为城临汴水，改名为汴州。隋统一后，隋炀帝为了获得江淮流域丰富的物产，开凿运河。唐王朝把这里作为军事防守的重点，以确保这交通中枢的安全。
五代时期，后梁朱全忠在开封建都，称为东都，并升汴州为开封府。此后，后晋、后汉、后周相继在这里建都，称为东京。由于这四个小朝廷在此建都的时间都不长，总共才26年，加上当时战火不断，政局不稳，因此，除后周增筑外城，初步奠定了开封城市的规模以外，开封的发展并不大。
古代开封的黄金时代是在北宋一朝。公元960年宋太祖赵匡胤建立宋朝，定都开封，改名为汴京，也叫东京开封府。据载，当宋太祖新修京城时，宰相赵普献上方直形的图样，太祖阅后极为不满，亲执御笔勾划涂抹，结果照此修筑后，城垣曲折，宛如蚯蚓。人们看到这不伦不类的城墙，很不理解，只觉得难看。宋徽宗时重新修筑，一律改为方矩形，非常壮观。靖康年间金兵南下，在城四隅安炮轰击，因直的城垣极易命中，京城失守。人们才佩服宋太祖的远见。
北宋建都开封，历经九帝，共167年。公元1127年，金兵攻占开封，城市惨遭破坏。汴河漕运中断，河道逐渐湮塞，依靠交通发达而繁荣起来的开封，便每况愈下。金时仍称开封为汴京，后又改称南京并迁都于此。元明清三朝，开封是河南地方中心。但几经战火，又加之水患频仍，这座古城日趋衰落。清亡后，这里又成了军阀中原逐鹿的必争之地。在半殖民地半封建的旧中国，作为省会的开封，景况更为萧条。
开封市中心，座落着我国古代著名的佛教大寺院相国寺。相传这里在战国时代是魏公子信陵君的故宅，或说是他游玩的地方。信陵君是魏昭王的儿子，他为人谦和、礼贤下士。当时由于他的贤能和多士，各诸侯国都不敢对魏国轻举妄动。他窃虎符率兵败秦救赵的故事，历来为人所称道。据载在开封城东南十二里的杨州门村附近，还有他的墓。因此宋代的相国寺前就修有一座信陵亭，并称这一带为信陵坊。
相国寺初名建国寺，创建于北齐宣帝天保六年（公元555年），后为兵火所毁。唐延和元年（公元712年）重修，睿宗梦见佛显灵，于是亲笔题额大相国寺，以后不断增修，北宋时拥有八个禅院，占地百余亩，有“大相国寺天下雄”之称。寺院内藏有大量的艺术珍品，如唐代吴道子的画像，石抱玉的壁画等，在唐朝被誉为寺院“十绝”。宋代也有许多优秀的艺术品藏在寺内。但北宋以后，寺院屡遭兵火、水灾，屡毁屡修，面积大大缩小，现仅存的大雄宝殿、二殿、八角琉璃殿、藏经楼等，都是清乾隆时的建筑，距今二百多年。而藏在寺院中的大量艺术珍品，经过千年变迁，几乎荡然无存。仅存的几件中最有代表性的是高约二丈，全身贴金的千手千眼观世音巨雕，存在八角殿中，相传是以一株大白果树雕成，精美异常，巧夺天工。
相国寺曾是中外佛法和文化交流的重要场所，接待着许多外国僧人。唐中叶，日本真言宗开祖弘法大师空海就在这里住过。空海是中日文化交流史上的一个重要人物，他在给日本传入佛教经典的同时，还运用汉字的偏旁，创“伊吕波歌”，成为日文字母平假名的创造者。据载他的游唐笔记中就有许多记录相国寺盛貌的文字。
作为历史名城，开封留下了许多著名历史人物的遗迹及其遗闻佚事。宋太祖赵匡胤“陈桥兵变”的陈桥驿；战国末期韩国张良所派的力士椎击秦始皇的地方博浪沙都在开封附近。
繁塔东北百数十步，有著名的禹王台，相传大禹治水时曾在台上住过。禹王台中部的禹王庙，是明代修建的。正殿之南有御书楼，曾悬挂着康熙御笔“功存河洛”的匾额，明清时在这里奉祀着远古贤君夏禹王。
禹王台和繁台，本为一体（后一分为二）。据说春秋时是晋国音乐大师师旷奏乐的地方。西汉梁孝王刘武，在此增筑吹台，称作梁园。这里还曾发生过中国文学史上永远令人忆念的一段佳话。唐天宝三年五月，我国诗史上的两颗巨星李白和杜甫以及著名诗人高适会聚于此，登台赋诗，慷慨怀古。他们敏锐地预感到在盛世的背后潜伏着国家很深的危机。李白吟道：“平台为客愁思多，对酒遂作梁园歌”，“梁王（汉梁孝王）宫阙今安在？枚（乘）马（司马相如）先归不相待。舞影歌声散绿池，空余汴水东流海”（《梁园吟》）。杜甫在《遣怀》诗中也写道：“气酣登吹台，怀古观平芜”。反映了这几位诗人对现实的关心和忧虑。
龙亭所面临的潘杨二湖，也有着动人的传说。相传东湖是潘美的故宅旧址，西湖是杨业昔日府第所在。潘美和杨业同是宋太祖时宋军将领。潘美不断在太祖面前谗毁杨业，在抗辽的一次战争中，由于潘美指挥错误，使杨业身受重围，而潘美却临阵脱逃，致使杨业得不到接应。这位英勇善战、令敌丧胆的勇将终因寡不敌众而重伤被俘，不屈就义。人民按照自己的愿望和理想赞颂、同情着抗敌英雄，痛恨、鞭挞误国奸臣。杨家将的故事，从最初的民间传说到后来的戏曲小说，不断丰富，近千年来一直广泛流传。从前，东湖水浊，名潘家湖；西湖水清，称杨家湖。人们传说由于他们二人一奸一忠，因而湖水也就一浊一清了。其实这一带在宋代属于宫城范围，绝无臣下在此建宅之理；而湖水的清浊是由于东西湖附近人口的稠密不同所致。不过，这关于湖水清浊的传说不正反映了人民群众强烈而鲜明的爱憎吗？
在铁塔附近，是艮岳的遗址。艮岳是宋徽宗时傲浙江余杭的凤凰山修筑的人造山。昏庸的徽宗迷信道士关于把城东北隅增高便可长寿多男的说法，于政和七年（公元1117年）十二月开始营造。艮岳上的无数奇花异石，珍禽异兽，都是在各地搜刮而来，这就是所谓“花石纲之役”。艮岳中，埋有雄黄数万斤，以防毒蛇恶蝎；还埋炉甘石数万斤，为的是等雨后日出、水汽蒸腾弥漫山谷。并命令近山居民“贡云”，即人造云雾，供徽宗玩赏享乐，耗尽了人民膏血。
最高统治者的穷奢极欲，使阶级矛盾急遽激化，著名的方腊起义便是由“花石纲之役”直接引起。
宋徽宗的昏庸无道，终于导致他国破身虏。用人民血汗建筑的艮岳，也随着北宋灭亡而被摧毁。
