李吉甫字弘宪，是赵郡人。父亲李栖筠在代宗朝担任御史大夫，当时的名声很大，国史上有他的传记。李吉甫年轻时好学，能够写文章。二十七岁时任太常博士，学识渊博，见闻多，尤其精通本朝的掌故和沿革的评断，当时很多人称赞他。后来升为屯田员外郎，仍旧担任太常博士，又改任驾部员外郎。宰执之臣李泌、窦参很推崇他的才干，对他很器重。及至陆贽任宰相，贬调他出京任明州员外长史，过了很久被赦免，起用为忠州刺史。当时陆贽已经被贬谪到忠州，有人议论，认为李吉甫一定会在陆贽身上出气，重新罗织他的罪名；等到李吉甫到职，却与陆贽相处很好，并没有把旧日的嫌隙放在心上。李吉甫六年没有调官，因为生病的缘故被免职。不久，被授予郴州刺史，又调任饶州刺史。在此之前，州城因为连续死了四个州官，城池废弃不住，生出了怪异的东西，郡中百姓都相信它的灵验，李吉甫来了之后，开了城门的锁，剪除了荆榛而住在这里，后来人们才安定下来。
宪宗即位以后，征召李吉甫为考功郎中，掌管皇帝的文书诏令，来到朝廷以后，又立即召为翰林学士，转任中书舍人，赐穿紫袍。宪宗刚即位时，中书省小吏滑涣和掌管枢密的中使刘光琦亲近友善，颇窃取了一些朝政的权柄，李吉甫请求让他离去。刘辟反叛，皇上下令声讨他，策略不能决定，李吉甫暗中参与谋划，请求广泛征召江淮的军队，由三峡一路进入，以分散蜀地叛军的兵力。几件事皇上都同意了，从此非常亲近信赖他。元和二年(807)春，杜黄裳出守军镇，皇上提拔李吉甫任中书侍郎、同平章事。李吉甫天资聪慧敏锐，熟悉通晓事务，自任员外郎出京为地方官，滞留在江淮十五年多，全面、仔细地了解了民间疾苦。及至担任宰相，担心地方节镇贪暴横行，便上书，令各个方镇属下的刺史能够各自为政。他提拔了众多的人材，有着极好的声誉。
元和三年(808)秋，裴均任仆射，掌管财政收支，权臣佞幸，想要谋求宰相之职。在这之前，李吉甫制定策试的直言极谏科目，其中有讥刺时政，忤犯权臣佞幸的内容，因此裴均的同党扬言这都是执掌政柄的人所教唆、指使，妄图以此动摇李吉甫的地位，幸而谏官李约、独孤郁、李正辞、萧亻免秘密上疏陈报，皇上的疑意才消除。李吉甫早年结交推许羊士谔，提升他为监察御史；另有司封员外郎吕温文辞修养很高，李吉甫也亲厚相待。窦群也和羊士谔、吕温相友善，窦群开始被封为御史中丞，他奏请朝廷封羊士谔为侍御使，以吕温任郎中，掌管杂务。李吉甫气愤他不先打招呼，而所请求提升的人又有超出其资历的，因而接到诏令几天都不执行，彼此产生了嫌隙。窦群便等到占候卜筮者陈克明出入李吉甫家时，将其秘密逮捕，报告皇上，宪宗询问他，并没有为非作歹的罪行。李吉甫认为裴土自长期在翰林院，宪宗很亲近、信任他，一定会受到重用，就秘密推荐裴土自代替自己，因为自己希图出任节镇地方官。当年九月，李吉甫被封为检校兵部尚书并兼任中书侍郎、平章事，充任淮南节度使，皇上驾临通化门城楼为他饯行。李吉甫在扬州，每当有朝廷得失、军国利弊方面的事情，都用密疏一一论述。又在高邮县筑堤为水塘，灌溉田地几千顷，人们都得到了他的好处。
元和五年(810)冬，裴土自因病去职。第二年正月，授予李吉甫金紫光禄大夫、中书侍郎、平章事、集贤殿大学士、监修国史、上柱国、赵国公等称号。待他再次任宰相时，便请求裁减官员和那些经由各种途径进身的胥吏等，并核定朝廷内外官员的俸禄，当时的人都认为很恰当。京师的僧侣有凭着权豪势要而免于纳税的，李吉甫上奏说：“朝廷所征收的钱粮一向是有定额的，正好用僧人的余财，来配给贫苦无告的人，免税一定不能容许。”宪宗便停止让僧人免税。又请求把普润军划归给泾原。
元和七年(812)，京兆尹元义方上奏说：“永昌公主按照礼制建造祠堂，请示它的规模体制。”当初，贞元年间，义阳、义章两位公主都在墓地建造祠堂一百二十间，钱花了好几万；至于永昌公主祠堂的体制，皇上命令元义方减少旧制的一半。李吉甫奏道：“永昌公主幼年夭折，满朝同悲，更何况皇上的感情，必然钟爱想念。但陛下如此悲痛还能把祠堂的建制减少一半，显示折衷的规格，彰明节俭，教育人臣，确实超越古今。臣认为祠堂的建造、礼仪的典册没有明文规定，德宗皇帝对于义阳、义章二公主，只是出于一时的恩遇，事情归因于习俗，当时人们并非没有背后议论的。从前汉章帝时，想为光武帝的原陵、明帝的显节陵各建食邑的屋舍，东平王刘苍呈上奏疏说不可以这样做。东平王是光武帝的爱子，明帝的爱弟。以他那贤王的心情，难道会在父兄身上吝惜钱财么！确实因为这是不合乎礼制的事情，君王应当慎重。现在与其照义阳公主那样修建词堂，臣认为恐怕不如酌量设置守墓的民户，以充任守护供奉的职责。”第二天，皇上对李吉甫说：“你昨天所奏明停修祠堂的事，使我心中深感快慰。我开始也怀疑这样做太繁琐浪费，但由于不知道从前的实情，因此只是酌量减少一些，看了你的陈述，才知道这样做没有根据。但是我不想损害二十户百姓的利益，应当挑选官府控制的罪役户，委派他们去守墓。”李吉甫向皇上拜贺。皇上说：“卿呀，这难道是什么难事。有关于我自己，不利于时局的，只要听到了就改正，这难道也值得赞美么！你只要勤于匡正失误，不要以为我不能实行。”
元和七年七月，皇上驾临延英殿，对李吉甫说：“我最近田猎、游玩都停止了，只喜欢读书。昨天在《代宗实录》中，看到当时的纲纪没有振兴，朝廷出了很多乱子，也得到一些教训。后来看到你先辈的事迹，实在值得嘉许赞叹。”李吉甫走下台阶跪下说：“我先父为代宗办事，尽心尽节，迫于机运丧失，没有等到圣明的时代，我的赤诚之心，常常追恨。陛下喜欢读文史书籍，见闻一天天更新，见臣的先父忠于前朝的事迹记载于实录上，今天特地赐给褒扬，先父即使在九泉之下，也像见到了明亮的太阳一般。”接着便伏身在地流下泪来，皇上对他进行了劝慰。
元和八年(813)十月，皇上临幸延英殿，问到当时的时政记记些什么事。那时李吉甫正监修国史，首先回答说：“这是宰相记下天子的事情，再交给史官做的实录。古代左史记言论，现在的起居舍人也这样；右史记事实，现在的起居郎也这样。高宗永徽年间，宰相姚王寿监修国史，考虑到皇上贴近说的话有时起居官会听不见，便请求奏对时就在皇上的仪仗下随手记下，再交给史官，这就是现在的时政记。”皇上问；“有时候不修史，是为什么呢？”李吉甫回答说：“当面接受的恩诏，还来不及施行，总要视为机密，因此不能够写下来交给史官；当中又有些谋划建议出自于臣下之口，又不能自己写下来交给史官；待到已经施行，诏书敕令都已经记得很清楚，本来就是史官所记下来的，也就用不着再写出来交给他们了。再说我看当时的时政记，是姚王寿在长寿年间所修，等姚王寿去职事情就停了下来；贾耽、齐抗在贞元间修的，等贾耽、齐抗去职，事情又弃置了。这样看来关系到时局、政令教化的，不虚夸好的，不隐瞒坏的，这才叫作良史呢！”
当月，回纥部向南越过沙漠，选取西域柳谷这条路讨伐吐蕃，西域防御史周怀义的表章来到，朝廷非常恐慌，认为回纥表面声称讨伐吐蕃，真实意图是要入侵唐境。李吉甫上奏说；“如果回纥入侵，只会逐渐断绝双方的友好关系，不会立即就来侵犯边境，只须设防就行了，不必多虑。”于是请求从夏州到天德，重新设置已经废弃的驿站十一处，以通报军情的缓急，又请求调拨夏州的五百名骑兵，在经略故城扎营，声援驿使，兼护卫党项一带。元和九年(814)，请求在经略故城设置宥州。六胡州因为在灵盐界上，开元年间废除了六胡州。李吉甫说：“国家原来建置宥州，是以宽宥的意思取名，管辖各族降服的民户。天宝末年，宥州把治所寄设在经略军，大概是因为这地方处于那一带的中心，可以总辖各族部落，北可以和天德呼应，南可以声援夏州。现在经略城远隶于灵武，又不设置军镇，这不是原来的体制。”宪宗同意他的奏报，重新设置宥州，诏令说：“天宝年间宥州的治所寄设在经略军，宝应年以后，各代沿袭的旧制就废除了。从此昆夷屡次骚扰，党项无所依托，藩属的各族，对他们无法安抚怀柔。我正想发扬长远的战略，考虑恢复旧制，应该在经略军设置宥州，仍旧列为上州，在城内另设延恩县，为上县，隶属于夏绥银观察使管辖。”
淮西节度使吴少阳死，他的儿子吴元济请求继承父亲的职位。李吉甫认为淮西属于内地，不同于河朔地区，而且四周地区没有声援的部队，国家经常驻扎几十万军队防守，应当抓住时机夺取这地区。这看法很符合皇上的意图，便开始策划经营淮西的谋略。
元和九年冬天，李吉甫因暴病而去世，终年五十七岁。宪宗悲伤哀悼了很久，派内监前去吊唁，除按照惯例馈赠之外，另由内府拿出绢五百匹以抚恤他的家属，再追授司空衔。李吉甫刚开始担任宰相时，和当时的人情很融洽，等到再次被征召时，朝内外都引颈瞻望他的风采。他掌握政柄之后，视听时时被蒙蔽，人心便对他产生疑虑和畏惧。当时辜负了李吉甫的希望的人担心被他所忌恨，大多因害怕而避开他。宪宗背地里知道了这些事，不到一年，便提拔了李绛。李吉甫和李绛相处很不融洽；李绛性情刚直。以至于他们在皇上面前也互相争论，人们大都认为李绛正确。但李吉甫性情畏缩谨慎，即使他不喜欢的人，也不进行伤害。衣物食品一定用最好的，但不购置财产，除了京师一座住宅外，没有其他的府第、别墅，因此舆论很称颂他。朝廷追授他谥号敬宪，到开会讨论时，度支府郎中张仲方反对，认为太优宠。宪宗发怒，贬斥张仲方，赐李吉甫谥号为忠懿。
李吉甫曾经探讨过《易象》的异义，附在一行的集注之下；并辑录东汉、魏、晋、周、隋的史实，止于它们成败得失的大略，名为《六代略》，共三十卷；又分列全国各方镇，记载它们的山川险要平易的情况，在各篇前面画上地图，编为五十四卷，称为《元和郡国图》；又和史官等一起编制当时的户口、赋税、军队的情况成册，号称《国计簿》共十卷；编辑《六典》的各职司为《百司举要》一卷。都奏闻于皇上，通行于当代。儿子李德..、李德裕。