1948年7月，东北人民解放军铁道纵队成立（又称东北铁路修复工程局）。

1949年5月，中国人民解放军铁道兵团成立。

1954年3月，中国人民解放军铁道兵组建。

1979年12月，铁道兵后勤部沈阳、天津、上海、武汉、西安办事处依次更名为东北、华北、华东、中南、西北办事处。

1983年8月，铁道兵在成都设立西南办事处。

1984年1月，铁道兵集体并入铁道部，称铁道部工程指挥部，所属各办事处、仓库均更名为铁道部工程指挥部办事处和材料总厂。

1989年7月，铁道部工程指挥部撤销，中国铁道建筑总公司成立。

1990年2月，中国铁道建筑总公司物资局成立，负责管理原铁道兵后勤部直管的东北、华北、华东、中南、西北、西南办事处，株洲、鹰潭战备材料总厂，郑州、高碑店材料总厂等。物资局具有双重职能，承担总公司物资管理的职能，同时实行独立核算。

1995年8月，入选1995年中国物资流通综合百强企业。

2000年3月，改制为中铁物资集团有限公司。

2008年7月，总部由北京市海淀区复兴路40号乔迁至北京市海淀区西四环中路19号。

2009年4月，荣膺国家人力资源部和社会保障部、国资委联合颁发的“中央企业先进集体”称号。

2010年10月，在中国最具竞争力的物流企业50强中排名第7位。