令狐腍字子直，文宗太和四年(830)中进士，初入仕途任弘文馆校书郎。开成初年(836)任左拾遗。二年(837)，其父令狐楚去世，守丧免职。服丧期满，授予原官职，不久，改任左补阙、史馆修撰，加官晋职为库部、户部员外郎。武宗会昌五年(845)，调出朝廷任湖州刺史。宣宗大中二年(848)，召回朝廷授官考功郎中，不久任知制诰。同年，奉召进宫任翰林学士。大中三年(849)，授官中书舍人，承袭封爵为彭阳男，享受食邑三百户，不久任御史中丞。大中四年(850)，升任户部侍郎，兼任本部司事。同年，改任兵部侍郎、同中书门下平章事。令狐腍以旧职兼任尚书省官署职务，应当先问候职居上位的大臣。初一，同位官员在少府监集合。当时白敏中、崔龟从曾任太常博士，官居宰相之位，想使其旧日任职的官署荣显，于是改在太常礼院会集，崔龟从将这件事亲笔题写在太常礼院墙壁上。
令狐腍辅佐朝政十年，加官至吏部尚书、右仆射、凉国公，享受食邑二千户。大中十三年(859)，免去宰相职务，任检校司空、同中书门下平章事、河中尹、河中晋绛等地节度使。懿宗咸通二年(861)，改任汴州刺史、宣武军节度使。咸通三年(862)冬，升任扬州大都督府长史、淮南节度副大使、执掌节度大使职事。晋爵加衔为开府仪同三司、检校司徒，食邑加至三千户。
咸通九年(868)，从徐州调至边防军队的武宁军节度粮料判官庞勋擅自从桂州返回。七月返抵浙西，沿长江由白沙进入浊河，抢夺舟船前进。令狐腍听说庞勋到来，派使者前往安抚，供给粮草。都押衙李湘对令狐腍说：“徐州戍边的军队擅自返回，必定不怀好意。尽管没有朝廷诏令授命讨伐，随机应变的决断权力在方镇。目前他的同伙来降，说庞勋的人马不足二千，却虚张舟船旗帜，怕人看出他的实力。入境以来，让人忧虑不安。计算水路进程，他必须越过高邮县界，这一带河岸陡峭而河窄水深。如果出奇兵拦劫攻打他，先用载草船只在前火攻，再以强劲的兵力接踵猛击，他必定败逃。若不在这时将他诛除，等他渡过淮河、泗水，纠合徐州的怀怨在心之徒，人马将不下十万，那么酿成的祸乱就不是小事了。”令狐腍性格软弱宽和，又因为没有接到诏命，便对李湘说：“庞勋在长淮以南，没有行凶作恶。听由他过去，其他的就不是我的事了。”
这年冬天，庞勋杀了观察使崔彦曾，占据徐州，聚集军众六、七万人。徐州没有军队吃的粮食，庞勋便分别派遣叛军的将帅攻打、抢劫淮南各郡，滁、和、楚、寿几个州相继失陷。粮食谷物吃尽后，淮南百姓多有被庞勋贼军吃掉的。这时两淮的郡县大多失陷，只有杜忄舀镇守的泗州，贼军经久攻打不下。这时诏令委任令狐腍为徐州南面招讨使，贼军攻打泗州急迫，令狐腍命李湘率领五千士兵援救泗州。贼军听说李湘率军来泗州救援，庞勋派人送信给令狐腍，言辞态度恭顺，信称“朝廷屡有诏书宽赦，抗拒者仅三、两个人而已，我将尽快设法除掉他们，立即归顺请求处置，希望相公替我担保”。令狐腍立即奏报朝廷，请求赐给庞勋执掌兵权的符节斧钺，同时告诫李湘：只许驻守淮口，庞勋已经招降，不得违反命令。因此，李湘率领的军士脱下战衣安心就寝，撤去警卫防备，天天与贼军相对而处，欢笑交谈。一天，贼军乘虚袭击，步卒骑兵径直闯入李湘的军营，淮南士卒五千人全部被生擒押往徐州，被贼军蒸煮吃掉。李湘与监军郗厚本被庞勋砍断手脚，庞勋将他们押到徐泗行营兵马都招讨使康承训的军前巡行示众。这时浙西的杜审权发兵一千人与李湘相约会合，大将翟行约以勇敢闻名。浙西军队尚未到达，李湘的军队已经覆灭。庞勋于是将自己的军众分开，一方树起淮南军队的旗帜，假装成交战的样子。翟行约的军队见后，急行军奔赴投入战斗，一千人马全被贼军活捉，押送徐州。
令狐腍葬送军队后，朝廷派左卫大将军、徐州西南面招讨使马举取代令狐腍担任淮南节度使。咸通十二年(871)八月，令狐腍被授官为检校司徒、太子太保，作为分设在东都的中央官员任职。咸通十三年(872)，令狐腍以本官职担任凤翔尹、凤翔陇州节度使，晋爵封为赵国公，享受食邑三千户。当年去世。