乌重胤的字叫保君，是河东将领乌承王此的儿子。年轻时任潞州牙将，兼任左司马。节度使卢从史奉命讨伐王承宗，暗中和叛贼勾结。吐突承璀要杀死他，告诉了乌重胤，他就把卢从史捆了起来，营帐里的士兵拿着兵器都喊起来，他叱责说“：皇上有命令，听从的有赏，违令的杀头！”士兵们都放下武器各自归位不敢乱动。唐宪宗奖赏他的功劳，提升他任河阳节度使，封爵为张掖郡公。
皇帝讨伐淮西蔡州，命他率军逼近叛军边境，将汝州划归他的部队，叫他和李光颜互相呼应。进行了大小一百多次战斗，共三年，叛贼被讨平了，他两次升官后任检校司空，晋爵..国公。后调到横海军，他上奏说：“河北藩镇能抗拒朝廷命令的原因，是刺史丧失了权力，各镇将领掌握了军队能作威作福。如果刺史掌握了权力，将领即使有安禄山、史思明的野心，能够占据一州反叛吗？我管辖的三个州，就把权力还给了刺史，各自主管军队。”他又请求撤销了景州。他建立的制度，当时人都认为恰当。
讨伐王廷凑时，他率军驻扎在深州，当时国家指挥不当，叛贼逐渐无法制服，他长时间不敢进兵。穆宗认为他持观望态度，下诏命杜叔良取代他，任命他为太子太保。长庆末年，他以检校司徒、同中书门下平章事身份任山南西道节度使。
后召到京城，改任天平军节度使。唐文宗初年，被封为司徒。李同捷请求继承父亲的职位，皇帝正一心要安定，就任命李同捷为兖海节度使，因为乌重胤是老将，让他兼任沧景节度使，将齐州划归他管辖。不久去世了，享年六十七岁，赠官为太尉，赐谥号叫懿穆。
他是下级军官出身，善于管理兵将，和部下同甘共苦。蔡州将领李端投降了他，蔡州人抓住李端的妻子处死，他妻子喊道“：好好侍奉乌仆射！”乌重胤受到兵将爱戴由此可见。他对待手下官员有礼貌，那时有名的人如温造、石洪都在他的府中供职。他去世后，有二十多名兵将割下自己大腿上的肉来哀悼他。
他儿子乌汉弘继承了他的爵位。在为母亲服丧期间，被任命为左领军卫将军，他坚决推辞，皇帝赞扬了他。