李杰，本名务光，相州滏阳人。他是后魏并州刺史李宝的后代。其先人由陇西迁至滏阳。李杰少年时就以孝友著称，中举，累任天官员外郎，明敏有治政的才能，深得人们的赞誉。神龙初年(705)，迁任卫尉少卿，任河东道巡察黜陟使，在所有黜陟使中他考核评议最好。开元初，李杰任河南尹，勤于治理，每有公事，无论是如何难办，也从不搁置不处理，由此官府内无积压的公事，吏民都很敬爱他。先是河、汴之间有梁公堰，年久失修堰破，致使江、淮的漕运不通。李杰上奏调拨汴、郑的人工来疏通，省功而且很快完工，于公于私都带来很大的便利，于是在水岸边刻石来记他的功绩。
不久，他代宋王景任御史大夫。当时皇后的妹婿尚衣奉御长孙昕与他的妹婿杨仙玉因在里巷遇见李杰，便殴打李杰。皇上大怒，下令斩长孙昕等。散骑常侍马怀素认为中春阳和的月份，不可行刑，多次上表陈请。皇上于是下令“：行法令应由近及远，行罪应先亲后疏。长孙昕、杨仙玉等凭自己是皇亲国戚，恣行凶险，违法乱纪，损辱大臣，情特难容，故令斩决。今群臣多次上表，诚心诚意坚持相请，以阳春季节，非肃杀之时，援引古今，词义恳切。朕虽想听取众臣的意见，情也惜法，但既应当宽异门之法，顺应枯木的凋敝，就应决杀，以谢百僚。”
李杰第二年监督桥陵的建造，赐爵武陵子。开始，李杰监督建造，引荐侍御史王旭为判官。王旭贪财受赃，李杰将要依法处理但未得证据，反被王旭所诬陷，贬为衢州刺史。不久，调任扬州大都督府长史，又被所劾奏，免官归乡。不久去世。追赠户部尚书。