魏谟字申之，巨鹿人。他的前五代祖文贞公魏征，是太宗贞观朝的名相。曾祖父魏殷，曾任汝阳县令。祖父魏明，也是县令。父亲魏冯，是献陵台令。魏谟在文宗太和七年(833)考中进士。杨汝士主管同州时，征召魏谟任防御判官，获得秘书省校书郎职位。杨汝士入朝任职举荐魏谟为右拾遗。文宗因为魏谟是魏征的后代，对待他很特殊。
在此之前邕管经略使董昌龄冤杀了录事参军衡方厚，因而贬官为溆州司户。这时移近安置任硖州刺史，魏谟上疏评论说：“帝王发布号令施恩，赦免有罪的人，只有故意杀人的不赦。董昌龄近来因朝廷记载了他的微小功劳，授予他掌管一方边镇重任，他不能恭敬谨慎地对待恩宠荣耀，却恣意滥施狂暴，擅自杀戮无辜，事实彰明较著。受害人妻儿含冤负屈，远行万里投诉。到审问时董昌龄承认罪过，却未被判决处死，朝廷内外纷纷议论，认为这是违法曲断。现今如若授予董昌龄州郡长官职务，让他去治理受害忧伤的人，那么，杀人者被提拔，遭冤的苦情怎么洗雪？一再违乱典章制度，有背最根本的道理。”上疏奏效，于是将董昌龄改任为洪州别驾。
御史中丞李孝本，是皇族，因牵涉李训谋逆叛处死罪，他有个女儿被没收进后宫。魏谟上疏劝谏说：
“臣听说：治理国家，首先靠施恩德行仁义，不遵循施德行义之道，家族、邦国必然败坏。因此能成就大业的帝王以德服人心，以义使用人。服人心、使用人的方法，关键在修身；修身之道，在于勤勉不怠。一失而百亏的自警，来源于平时的自约。前人的记述说：‘不要认为是小恶就去作恶，不要认为是小善就不行善。’这就是警惕、担心逐步发展呀！臣又听说：人君如同太阳，明暗微有变化，人人都会瞻望；太阳的光照如此之大，明暗的变化怎能掩藏？前代的圣君明主，在朝堂上设置鼓励大胆进言的谏鼓，在宫门外树立提倡非议朝政的谤木，是珍重听到别人指出自己的过失。陛下登位以来，大力布行礼乐教化，从不爱好声色之娱，放出后宫失偶的妇人，匹配在外无妻的男子。至今十年以来，从未采选宫人。自近数月以来，皇上慕恋渐改，关注女伎乐舞，教坊一百人、二百人选用不止，庄宅司没收、采买的事，略有所闻。日前又召取李孝本女儿进宫。陛下与她同宗一姓，恩宠于她算什么名份？这件事情极其有损陛下谨慎持重的美名，使陛下陷于功亏一篑的境地。陛下在深宫之内，听不到种种议论。凡是这类事情，极遭众人议论，实在有伤事理道义的根本，难免产生名声污秽的嫌疑。要想别人不知道，不如自己不去做。谚语说：‘止住寒冷不如多着皮裘，平息谤议不如加强修身。’敬望陛下明察不惑，崇尚名传千载的大德，抛弃一时的嗜好。停止教坊的活动，放还同宗的女儿，就能大正人伦风气，弘扬帝王体统。”
上疏见效，文宗当日就放出了李孝本的女儿，提升魏谟为右补阙。提升他的诏书说：“当年你的先祖魏征在贞观年间十次奏谏，指明事理直言不讳，没有任何回避顾忌。朕每每阅览本朝史书，没有一次不是深思再三，久久嘉许的。你任拾遗职务，作风不减先祖，屡屡进献奏疏，必定说明事理。至于我从诸藩王家中选取洒扫庭院的宫女备用，不是出于扩充歌舞艺妓的考虑；而是体恤尚在童年的同宗女儿，确实没有征召嫔妃的疑惑。尽管如此，是非难辨的事情，终不能家传户晓。你能意深词切地论理，这就比我想的广阔多了。噫，你能不顾身家正直尽忠，酷似你的先祖魏征；我岂能不虚怀采纳忠言，敬取太宗贞观之治呢？虽然魏谟做官时间短浅，不在按级提升之列，我怎么能循守常规，对待忠贞正直之臣？他可以担任右补阙。”文宗对宰辅大臣说：“当年太宗皇帝得到魏征，让他补正自己的不足与过失，辅佐成就圣明国政。我得到魏谟，在是非难辨之际，他必定能尽心劝谏。我不敢希求达到贞观之治的境地，或许也可以处于不犯过失的地步了。”
教坊副使云朝霞擅长吹笛，创制新声变革音律，使文宗深感满意，宣旨授予他以左骁卫将军职位兼扬府司马。宰辅大臣进奏说：“扬府司马官品很高，历来由郎官、刺史交替担任，不适合授予乐官。”文宗执意想授任云朝霞为扬府司马，趁召见宰辅大臣应对策问之时，竭力称赞云朝霞的长处。魏谟听说这件事后，接连上疏陈述见解，于是文宗将云朝霞改授为润州司马。
荆南监军使吕令琮的随从人员擅自闯进江陵县衙署，诽谤辱骂县令韩忠，观察使韦长呈送公文给枢密使投诉。魏谟上疏说：“臣窃以为：州县长官遭受欺凌，只该报告朝廷知道，宫廷内外相互联系，必须保持原有制度。韦长受任观察处置使，办事规矩应当精熟，公务竟都不禀报朝廷知道，却营私徇情擅自违章。况且政事无论大小，该办就办，不应往返行文。县令处理公务有错，应该依据条律治罪；监军办事越职侵权，就该禀报皇上知道。如果因为担心烦劳圣上听闻，为什么不就只呈文给门下省？现在却率先扰乱正常法度，论理应当列罪惩处。敬望圣上，速加惩诫！”魏谟奏疏呈上后，文宗扣留不批示下达，当时的舆论为之惋惜。
开成三年(838)，魏谟转任起居舍人。他到紫宸殿向皇帝谢恩，文宗对他说：“因为你奏论政事忠贞直切，有你先祖文贞公魏征风度，因此不让你受每月见面次数的限制，授给你这一官职。”又对他说：“你家里有什么以往的奏疏、诏令？”魏谟回答说：“以往多已失落，仅有簪笔、笏板尚存。”文宗让他进献入宫。郑覃说：“怀念在人不在笏。”文宗说：“郑覃不理解我的心意，献笏，这就是《诗·甘棠》所表达的怀念德政之义，不仅仅是笏本身而已。”魏谟正要退去，文宗又叫住他，告诉他说：“我行事如有不当，你要立即进呈奏论。”魏谟说：“臣往时担任谏官，理当正言进行规劝。现今官居史臣，职责仅在记载君主言行，臣不敢超越职分。”宗说：“凡属门下、中书两省官员合并议政，你尽管陈奏，不要受你刚才讲的话拘束。”不久，魏谟以起居舍人官职在弘文馆兼代职务。
开成四年(839)，魏谟担任谏议大夫，仍兼起居舍人，并兼任弘文馆职务。一次，在群臣随文宗到紫宸殿升朝时，文宗派宦官向魏谟取要他录写的帝王起居注，想看一看。魏谟坚定地进言说：“自古以来设置史官，其职责在于记事彰明鉴诫。陛下只要是行事正确，就不要担心微臣不记载。如果陛下所做的事有错误，即使我不记载，天下的人会记载下来。臣把陛下视为太宗皇帝，陛下应把臣视同褚遂良。”文宗又说：“我曾经取起居注看过。”魏谟说：“陛下要史官不守职分，臣岂敢使陛下陷于非法的境地？陛下一看之后，从此记事就必须有所回护避忌。这样一来，不能直书善恶，就不是历史了。传给后代，怎么让人信从？”文宗这才停止索看起居注。
魏谟刚进入朝廷时，由李固言、李珏、杨嗣复所引荐，数年之间，官职已至谏议大夫。武宗登位，李德裕当政，魏谟因系杨嗣复、李珏一党而获罪，被调出朝廷任汾州刺史。杨、李被贬官，魏谟又被贬为信州长史。宣宗就位，白敏中当权，将魏谟向近处安置担任郢州刺史，不久改任商州刺史。宣宗大中二年(848)，将魏谟征召入宫任给事中，后升为御史中丞。进宫谢恩时，宣宗当面赐给他标示三品以上官阶的金鱼袋、紫官服。魏谟因弹劾驸马都尉杜中立犯贪赃罪，使得君主的内外亲族都畏惧他。让他兼任户部侍郎，代理户部府署事务。魏谟进奏说：“御史台是维护朝纲法纪的地方，不适合与管理钱财的官职交叉兼任，请求免去御史中丞职务，专一治理户部公务。”宣宗采纳了他的建议。
不久，魏谟以户部侍郎职务任同平章事，兼管的代理职务照旧。进宫谢恩时，魏谟向宣宗进言说：“微臣没有舜帝名臣夔、契的才能，却在骤然之间不称职地承提了夔、契那样的重任，将如何报答浩荡皇恩？现今边塞防务初步安定，国内动荡已经平息，微臣心里关切的事，是陛下尚未册立皇太子，让正直人士给予辅佐教导，以保证日后太子继承皇位。”说着，流下了泪水。宣宗受到感动并听从了他的建议。在此之前，历朝皇帝都不希望他人议论立皇太子的事，如果不是君主自己想听听别人的意见，臣下无人敢进言议论此事。宣宗年事已高，皇太子尚未明确，魏谟担任宰相时，率先向皇帝进言，上层人士很推重他。不久，魏谟兼任集贤大学士。詹毗国献来大象，魏谟认为象的习性不适应中国的水土，奏请归还献象的使臣，宣宗同意他的奏请。太原节度使李业滥杀投降的俘虏，引起北方边庭极大骚乱。李业有所倚恃，人们不敢非议。魏谟立即禀奏此事，于是将李业移任滑州节度使。魏谟加官任中书侍郎。大理寺卿马曙的随从王庆告发马曙家中私藏武器，马曙因此获罪被贬官，而王庆没有判罪。魏谟援引法令条律论罪，最后用杖刑杀了王庆。
后魏谟晋升官阶为银青光禄大夫，兼任礼部尚书、监修国史。撰成《文宗实录》四十卷，进献朝廷。参与修撰的史官给事中卢耽、太常少卿蒋偕、司勋员外郎王氵风、右补阙卢告、膳部员外郎牛丛，都被赐予锦彩、银器，按官级次序升职加俸。魏谟迁转担任门下侍郎，兼户部尚书。大中十年(856)，魏谟以本官职任平章事、成都尹、剑南西川节度副大使主持节度使事务。十一年(857)，他因病请求朝廷派官替代自己，被征召担任吏部尚书。由于病未痊愈，魏谟又奏请授予无固定职务的闲散官职，于是改任检校右仆射，代理太子少保。大中十二年(858)十二月，魏谟去世，时年六十六岁，追赠他司徒职衔。
魏谟仪容魁伟，论事言语直切，与同僚在皇帝面前奏论政事，其他宰相总是委婉曲折进行规谏，惟独魏谟正直敢言无所畏惧、回避。宣宗常常说：“魏谟多有其先祖魏征的风范，诸名公的子孙中，我心里最推重他。”然而，他终于因为言语过于刚直，遭到令狐腍的忌恨，被罢免相位。魏谟曾抄录撮取诸子著述中的精要言论，按类别编排，共二十卷，题名《魏氏手略》。撰有文集十卷。