字薄居罗,代(在今河北省蔚县东北)人。少聪敏,美容仪,及长,有大志,好施爱士。稍迁大丞相帐内都督,娶宇文泰女为妻。从宇文泰复弘农、破沙苑,皆有功。累迁尚书左仆射,兼领军将军,后拜大将军。西魏元钦二年(553年),尉迟迥率兵援梁伐蜀,大胜,诏拜为大都督、益潼等十八州诸军事、益州刺史,并封一子为公。周孝闵帝即位,进柱国大将军,以平蜀功封蜀公。周宣帝即位,以疑忌出其为相州总管。周静帝时,外戚杨坚控制朝政,尉迟迥乃发兵征讨,远近响附,众数十万。杨坚派大将韦孝宽、高颎率兵与战,尉迟迥战败自杀。