兰州作为连接内地和西北的交通枢纽，从明代起人们就开始设想在黄河上架桥，征服黄河险阻。明代洪武五年(1372年)，朱元璋委派卫国公邓愈在兰州西面十里处始建一座浮桥－镇远桥。明代洪武十八年(1385年)，兰州卫指挥杨廉将浮桥移至今日位置，至今遗存重十吨、长五点八米的铸铁桥柱“将军柱”三根。
清光绪三十三年(1907年)，清政府在兰州道彭英甲的建议和甘肃总督升允的赞助下，聘请德商泰来洋行在浮桥的基础上建造了黄河干流上第一座大型铁结构桥。铁桥长233.33米，宽7.5米，有四墩五孔，桥面为加厚铁托板条，建桥所用的木板、沙石等材料全部由海外进口，耗银三十多万两。初名叫“兰州黄河铁桥”，1942年改为“中山桥”。1954年，兰州市政府对铁桥进行了整修加固，加设了拱形钢架，使铁桥显得坚固耐用，气势雄伟。
如今，黄河铁桥已改作步行桥，为国家级文物保护单位。置身桥上，夕阳斜照，河面波光粼粼，放眼可远眺白塔山上白塔入云，收目可近观母亲河穿桥而逝，是为兰州胜景之一。