李嗣业的字叫嗣业，京兆府高陵县人，身高七尺，力大超群。开元年间，跟随安西都护来曜征伐十姓苏禄，他首先登上城堡又抓获了俘虏，积累功劳被封为昭武校尉。后来被召募到安西，军队中开始使用长刀、李嗣业特别善于使用，每次战斗必定担任先锋，所向无敌。马灵鮞任节度，每次出兵都带他一起去。
高仙芝征伐勃律国，任命李嗣业和中郎将田珍为左右陌刀将。当时吐蕃十万军队驻扎在娑勒城，靠山临河，用木材修成城寨，来抵御唐军。高仙芝夜里偷渡信图河，下命令说：“到中午打败敌人，不然都处死。”李嗣业率步兵登上高山，往下推石头砸死敌军，又扛着大旗带头冲向险路，众将都跟着他。敌军没料到唐军突然来了，因此大败，跳到山崖下摔死的有十分之八。他们乘胜进军到了勃律国，抓住了他们的国王，讨平了他们的国家。李嗣业被封为右威卫将军。后又跟着高仙芝讨平了石国和突骑施，任跳荡先锋加封特进官。敌军称他叫“神通大将”。
先前，王仙芝靠用计偷袭攻占了石国，石国国王的儿子逃跑了，就挑拨各族都恨高仙芝，并告诉了大食国，他们联合军队来进攻四镇。高仙芝率两万军队深入进攻，被大食军打败，残兵只几千人。
情况紧急，李嗣业对高仙芝谋划说：“您率兵深入敌境，后无援兵，大食军乘胜进攻，他们其他各族军队也将勇猛敢斗，我和您都前去战死了，谁来报效国家呢？
不如退守白石岭考虑退兵。”高仙芝说：“我正召集被打散的军队，明天再和他们交战。”李嗣业说：“大势已去，不能坐等杀头。”于是立即赶去扼守白石岭，路狭窄，步、骑兵一个跟着一个前进，遇上拔汗那先退兵，辎重车堵住了道路不能过，李嗣业怕被追上，手拿大棒打他们，士兵和马匹被打倒的有几十上百，拔汗那的异族军吓跑了，高仙芝才得以生还。高仙芝奏报了李嗣业的功劳，提升他为右金吾大将军，留任疏勒镇使。城墙有个角落崩塌了，多次修好后又塌了，李嗣业在那里祷告，有条白龙出现了，因此在那里建祠祭祀，城墙就不塌了。汉代耿恭的旧井长期干涸，他祈祷以后，泉水又有了。开始讨伐勃律国时，在葱岭上开路，有块大石头堵住了道路，他用脚一蹬，石头就滚到深谷里去了，记载这事的人认为是他的诚心使上天感动了。
天宝二十年(753)，加封骠骑大将军。进京朝拜时，唐玄宗当面赐酒给他喝，他因酒醉起身拜舞，皇帝为表示对他的宠信，赏给他一百匹绸缎、五十件金器、钱十万贯，说道“：这是给你解酒的。”
安禄山反叛了，唐肃宗调他回来，诏书一到他就率军上路，并和众将割破手臂起誓说：“路过的地方，一草一木都不能动。”到达凤翔后，拜见了皇帝，皇帝高兴地说“：现在你来了，胜过几万军队，讨贼能否成功，全靠你们。”于是下诏命他和郭子仪、仆固怀恩配合。他常常担任先锋，用大棒挥击，叛军碰到了，都被打败了。又升任四镇、伊西、北庭行军兵马使。
广平王收复长安的时候，李嗣业率前军，在香积祠北边列阵。叛军将领李归仁率精锐骑兵来挑战，唐军用箭射退他们后就派骑兵追赶他们，他们还没跑到敌军营地，敌军大举出击，掩杀追击的唐军骑兵，逃回的骑兵冲乱了唐军，因此军阵乱了。李嗣业对郭子仪说“：现在不拼死求生，全军就完了。”立刻脱掉衣服手持长刀，大喊着冲到阵前，杀死了几十名叛军，唐军军阵才又整顿好了。他率两千步兵持长刀、长柄斧并排前进，所向无敌，李归仁将军队埋伏在军营左边，窥测形势，广平王命回纥精兵进攻叛军的伏兵，李嗣业也从敌军背后夹攻，从中午战到太阳偏西，杀头六万颗，死在山涧山谷中的将近一半，叛军东逃，于是收复了长安。后又进兵收复洛阳，李嗣业作战最多。接着又和张镐、鲁炅、来調、嗣吴王李祗、李奂平定了各州。他被任命兼任卫尉卿，封为虢国公、食实封两百户。
以后又兼任怀州刺史、北庭行营节度使。
后来和郭子仪等围攻相州，军队疲倦了，众将都没能建功，只有李嗣业穿铠甲多次奋勇杀敌，在众军中数第一。后被流箭射中，躺在营帐里，伤快好了，突然听见了发令的钟鼓，他知道是在和叛军作战，就大喊杀敌，伤口又破开了，流了几升血后去世了。皇帝赐给他谥号叫忠勇，赠官武威郡王，派灵车护送回任所。下葬的那天，又派宦官去吊唁，朝中大臣哭着为他致哀，他的墓地安排十户人家常年清扫。据说李嗣业忠心为国，不置家财，只有大宛马十匹，先后赏给他的东西，他都交给官府来补充军费。
他的儿子李佐国，继承了他的爵位，任官到丹王府长史。他儿子去世后，为嘉奖李嗣业的功绩，赠官为宋州刺史。