裴冕的字叫章甫，河中府河东人，本是当地为首的名门当官家庭出身，因上辈的功劳两次升官后任渭南县县尉。王钅共任京畿采访使，任命他为判官，后任殿中侍御史。裴冕没什么学问，但明察敏锐，遇事果断，人称称职，王钅共很信任他。
到王钅共被抓，皇帝下诏在朝廷上辩论，裴冕官职很低，却直说他冤枉。王钅共被处死，李林甫正当权，同僚和属官怕李林甫，都走开了，只有裴冕为他入殓安葬，从此渐渐有了名气。河西节度使哥舒翰任命他为行军司马。
唐玄宗逃到蜀地，下诏命皇太子任天下兵马元帅，任命裴冕为御史中丞兼任左庶子辅佐他。此前，裴冕在河西，奉诏归京，路上在平凉遇到了太子，于是跟随他到了灵武。裴冕和杜鸿渐、崔漪一起劝太子登基说：“皇帝对辛劳厌倦了，并已南去蜀地，国家皇位，应有归属；现天意人心，都朝向您，应登基称帝；如有犹豫，使万民失望，国家就完了。”太子说“：我扫平叛贼后，迎接皇帝回到京城，我仍当太子，侍奉皇帝饮食，岂不快乐吗？你们怎么说这样的错话！”他们回答说“：您任太子二十年了，现天下有难，需要贤君来平定国家，跟随您的兵将都是关中人，日夜想回家，军队如散去，不可能再聚拢，不如顺应、安抚他们，建立平叛大功。我们冒着死罪请求您。”太子坚决推辞，他们共请求了五次，终于被采纳了。太子登基后，提升他任中书侍郎、同中书门下平章事。他建议出卖官职、剃度僧人道士，收集钱财来接济军费。当时出价很低，众人认为不恰当。
唐肃宗到了凤翔府，罢免了裴冕的知政事职，任命为尚书右仆射。长安、洛阳收复后，封他为冀国公，食实封五百户，派他出京任剑南西川节度使。后又任右仆射、集贤院待制。不久任皇陵使。
这时，中书舍人刘火亘与李辅国亲近，裴冕任命他为判官。刘火亘被治罪，他受牵连贬任施州刺史，又调任澧州刺史。
大历年间，郭子仪对唐代宗说：“裴冕首先拥戴肃宗皇帝，到灵武效力，有安定国家的功劳，程元振忌妒他的贤德，就诬陷他，天下人都认为他冤枉。皇上应把他调回朝中，再任宰相，定能治好国家。”当时元载当权，裴冕过去曾提拔过他，元载感他的恩，又认为他衰老可以利用，并又顺从自己，就任命他为左仆射、同中书门下平章事。他入朝见皇帝，跪拜后站不起来，元载亲自去扶他，代替他谢恩。不久兼任河南、江淮副元帅、东都留守。没过一个月就去世了，皇帝下诏赠官为太尉。
裴冕以忠诚勤奋要求自己，但不知道宰相的主要政务。生性奢侈，长期任高官，车辆衣裳饮食都豪华丰盛，栏中价值几百金的马常有几十匹，每次大宴宾客，菜的名字别人都叫不出来。他自制的头巾做工极精，人们争着模仿他，称为“仆射巾”。有人说他担任的使职多了，官吏报告每月的俸禄有两千贯，裴冕回头炫耀，喜笑颜开，当时人批评他好财。
当初，唐肃宗庙中只有苗晋卿陪受祭祀。裴冕死后二十多年，苏正元上奏说“：肃宗皇帝任元帅时，军队很少，裴冕在创业之时，明大义劝登基，招募军队近十多万。过了一个多月，房..才来；又过了一年，苗晋卿才到。现苗晋卿陪受祭祀，裴冕却没有。”皇帝下诏将裴冕供到肃宗庙里接受祭祀。