李罕之，陈州项城人。父亲李文，一生种田。李罕之勇敢敏捷，力气可抵数人。小时学做儒士，不成，又削发为僧，因他无赖流浪，到哪里都不被收容。曾到酸枣县要饭，从早到晚，没有人给他，于是把瓦钵朝地下一摔，撕烂并扔掉僧衣，跑去做强盗。正遇上黄巢在曹州、濮州起势，李罕之于是聚合党徒进行抢掠，逐渐成为首领。到黄巢贼党渡过长江时，李罕之乘机领着兵将背叛贼党投奔唐朝，高骈登录他的功劳，上表推举他为光州刺史。一年多后，李罕之被蔡州贼寇秦宗权侵扰逼迫，不能守住光州，于是放弃州城跑到项城，收聚残余部众，依附河阳诸葛爽，诸葛爽暂任他为怀州刺史。光启初年，唐僖宗任诸葛爽为东南面招讨，以攻击秦宗权，诸葛爽就表奏任李罕之为副手，令他领兵驻守宋州。蔡州贼寇势力日盛，抵挡不住。中和四年(884)，诸葛爽表奏李罕之为河南尹、东都留守。
这年，李克用摆脱上源的险难，收军西归，路经洛阳，李罕之迎接拜谒他，供给帐篷馆舍住宿，接待很优厚，并与李克用互相结交依托。当时李罕之有部众三千人，以圣善寺为帅府。光启元年(885)，蔡贼秦宗权派将领孙儒来进攻，李罕之与之对阵数月，因兵少而储备用光，弃城而逃，向西固守渑池。蔡贼占据京城一个多月，焚烧宫殿，剽掠居民。贼寇退后，京城全被踏为灰烬，静寂全无鸡犬之声，李罕之又领着他的部众，在市西修筑城堡。
第二年冬天，诸葛爽去世，他的将领刘经推举诸葛爽的儿子诸葛仲方为主帅，刘经怕李罕之难以控制，便自己领兵镇守洛阳。李罕之有部将名叫李瑭、郭趚，感情不和，都想谋杀对方。李罕之发怒，诛杀了郭趚，军心因此不和。刘经趁他内部有矛盾，便在渑池掩击李罕之，李罕之军队散乱，退守乾壕。刘经紧急攻打李罕之，却被李罕之打败，李罕之乘胜追到洛阳。这时刘经守着敬爱寺，李罕之守着苑中飞龙厩，李罕之激励部下攻打敬爱寺，几天后，顺风放火，全部烧着了敬爱寺，刘经部众逃奔乱窜，被追杀将尽。李罕之进逼河阳，在巩县扎营，在汜水布下船只，准备过渡，诸葛仲方派将领张言率领军队在黄河岸边抵挡。这时仲方年纪还小，大权掌握在刘经手中，将领们内心多不归附。张言暗中与李罕之结好，刘经知悉他们的阴谋，张言害怕，带着部众渡过黄河归顺李罕之，于是合兵攻打河阳，被刘经打败，李罕之与张言退守怀州。冬季，蔡贼将领孙儒攻陷河阳。诸葛仲方划着小船来投奔，孙儒于是自称为河阳节度使。不久蔡州贼寇被梁军打败，孙儒放弃河阳回到蔡州。李罕之与张言收聚部众，向太原晋军求援，李克用派泽州刺史安金俊率领骑兵帮助他，于是收复河阳。李克用任李罕之为河阳节度使、同平章事，又任张言为河南尹、东都留守。
李罕之既与张言结为患难之交，刻臂为盟，永远休戚与共，如张耳、陈余的情义。李罕之虽有胆量决断，但疑心极重，反复多变，而统治民众全无方略，大多苛刻残暴，性情又贪婪，不得人心。在获取河阳后，出兵攻打晋州、绛州。当时在大乱之后，田野没有耕种庄稼，李罕之靠俘获抢劫为业，吃人作为粮食。绛州刺史王友遇献城投降，李罕之于是进攻晋州，河中王重盈派使者向太祖求援。当时张言治军有方，善于积聚，勤于耕种，军粮不缺。张言向李罕之供给粮食，以补充他的军需，李罕之索求没有止限，张言对此很觉苦恼；当张言能力不能满足李罕之的需求时，李罕之就抓住河南府吏鞭打督责他。东方诸侯向皇帝出行所在地进贡的财物，大都被李罕之拦截夺取，王重盈对他的侵凌深感苦恼，暗中联络张言请求共同除掉李罕之。
文德元年(888)春天，李罕之派出他的全部兵力攻打平阳，张言夜晚出兵掩击河阳，李罕之没有防备，仅他一人徒步逃脱，全家都被张言俘获。李罕之逃往太原，李克用任他为泽州刺史，仍然遥任河阳节度使。三月，李克用派他的部将李存孝率领三万军队帮助李罕之，来攻打怀州、孟州。城中粮食吃尽，防御工事瘫痪，张言以他儿子做人质，向太祖求援。太祖派葛从周、牛存节赴援，在流河店迎战。遇上晋军将领安休休领着一支军队投奔蔡州，李存孝便领军而退，李罕之守卫泽州。从此李罕之每天派兵侵扰抢劫怀、孟、晋、绛各州，数百里之内，城邑没有敢为头的官吏，村巷没有敢居住的人民。河内的百姓屯聚于村寨，有时出去打柴汲水，就被李罕之抓去。就是奇峰绝道、扎架设梯才能到达的险要，也被李罕之部众攻取。此前，蒲州、绛州之间有座摩云山，当地人在山上搭起房屋以避贼寇的扰乱，李罕之带领一百多人攻下了它，军队中因而称李罕之叫李摩云。从此数州的人民，被杀戮啖食，几乎完尽，荆棘遍野，烟火断绝，共十多年。
乾宁二年(895)，李克用出兵抵御..州、凤翔部队，在渭水北岸扎营，天子任李克用为..州行营四面都统，李克用于是表奏李罕之为副手。到诛灭王行瑜后，李罕之因功授予检校太尉，食邑一千户。李罕之自以为功多，私下对晋军将领盖寓说：“我自从河阳失守以后，来依附晋王这棵大树的荫庇，岁月日渐长久，未见功效。近年以来，厌倦军旅之事，正所谓年纪老了，没有作为了。希望晋王仁悯，太傅哀怜，给我一处小镇，不再打仗，休养疾病，一二年间就归老乡里，就是有幸了。”盖寓为他传话，李克用不做回答。尽管常有藩镇缺乏统帅，在讨论委任时都不提到他，李罕之内心郁郁不乐，盖寓怕他另有所图，屡次为他抱不平。李克用说：“我对罕之，岂是舍不得一处藩镇？我有罕之，就像董卓有吕布，英雄倒是一位英雄，只是具有鹰的本性，吃饱了就要飞走，实在是怕他反复而加害于我啊！”
光化元年(898)十二月，晋地潞州统帅薛志勤去世，李罕之乘着他新亡，从泽州领兵直入潞州，自称潞州留后，将情况报告给李克用说：“听到志勤的死，新的统帅没到，担心被其他盗寇图取，我不等下令就已驻扎在潞州了。”李克用大怒，派李嗣昭讨伐他，李罕之抓住潞州守将马溉、伊铎、何万友和沁州刺史傅瑶等人，派他儿子李颢押送给太祖以求援。这时李罕之突然生病，不能主事。第二年六月，病重，太祖令丁会替代他，调李罕之任河阳节度使，走到怀州时，死在驿舍中，时年五十八岁。