铁塔建于北宋,其前身是一座木塔,供奉阿育王佛舍利,由当时著名的木工喻浩在太平兴国七年(982年)负责建造,历时8年。当初木塔因建造在开宝寺的福胜院内,故名福胜塔。宋真宗于大中祥符六年(1013年)赐名灵感塔。灵感塔仅存世56年,就在宋仁宗庆历四年(1044年)六月,遭雷击而焚毁。
为了继续供奉佛舍利和预防火灾,北宋皇祐元年(1049)年,又仿照木塔的式样,改用铁色琉璃瓦,在开宝寺的上方院内砌造了铁塔,保存至今。铁塔的平面呈等边八角形,系仿木楼阁式十三层实心塔,塔高55.08米。整个塔身由下而上逐层递减,呈现出秀丽、舒畅的轮廓。塔的东西南北各辟一圭形门,惟北门设蹬道可盘旋至塔的顶端。塔身层层开窗,一层北,二层南,三层西,四层东,这些明窗既有利于采光、眺望,又可以缓和强风的推力,可见建造者的巧思。支撑塔的力量核心是粗壮的塔心柱。各种不同用途的壁砖瓦构件通过蹬道与塔心柱紧密衔接,浑然一体,坚牢异常。
近千年来,历经多次狂风暴雨、河决地震的破坏,在抗日战争期间又遭到日军的猛烈炮击,但铁塔仍岿然屹立。
与铁塔相伴的河南大学已经有90余年的历史,一代又一代的河大人把铁塔作为河大的象征,都以“铁塔牌”自称。河南大学创建于1912年,占地面积1600余亩,其中建筑面积近60万平方米。校园内花草芬芳,景色宜人。东以建于20世纪30年代的校大门和大礼堂为轴心,七号楼、六号楼、东十斋、西二斋分列两旁,中西合璧、古朴典雅,是河南省重点文物保护群。西以体育馆、科技馆、图书馆等为一线的现代建筑,充满时代气息。整座校园东西辉映,与著名古迹铁塔交相生辉。