李泌字长源，是西魏八柱国徒何弼的第六代孙，后迁居京兆，七岁时就能写文章。玄宗开元十六年(728)，朝廷广召天下能讲论佛教、道教、孔子学说的人同到宫里辩论。有个名叫员亻叔的，九岁登上讲坛，辩论出言流畅尖锐，在座的人全都折服。玄宗惊异地说“：他是员半千的孙子，本该如此。”接着问道：“在少年中还有像你这样的人吗？”员亻叔跪奏道：“臣舅舅之子李泌就是一个。”玄宗立即派人召见李泌。李泌来到宫中，玄宗正同燕国公张说观棋，便叫张说试一试他的才能。张说请李泌以“方圆动静”为题做赋，李泌迟疑了一会儿说：“我想知道大致的要求。”张说便说“：方，好比棋盘；圆，好比棋子；动，好比活棋；静，好比死棋。”李泌听了立即回答道：“方如行仁义，圆如用智慧，动如施展才能，静如心领神会。”张说祝贺玄宗得到了奇童。玄宗极高兴地说：“这孩子的神采气质，大大超过了他的身份。”赏赐他五匹锦缎，并对他的家人下旨“：好好对待培养这个孩子。”张九龄特别赞赏喜爱他，经常带他到自己卧室。张九龄与严挺之、萧诚很要好，严挺之厌恶萧诚的巧言阿谀，劝张九龄不要与他来往。张九龄偶尔自言自语道“：严挺之过于急躁刚直，萧诚却柔顺温和讨人喜欢。”正要派人去请萧诚，李泌在一旁不加思索地说：“明公出身于平民，靠耿直正派为官至宰相，却喜欢柔顺献媚的人？”张九龄听后一惊，马上改容向李泌认错并称李泌为“小友”。
李泌长大后，才学广博，对《易经》研究尤为精湛；经常漫游于嵩山、华山、终南山之间，思慕神仙的长生之术。天宝年间，他到皇宫献《复明堂九鼎议》，玄宗皇帝想起他少年时就聪慧，便召他讲《老子》，他说得头头是道，得以待诏翰林院，又任东宫供奉，皇太子对待他特别好。
李泌曾经写赋讥笑讽刺杨国忠、安禄山等人，杨国忠憎恨他，下令将他贬到蕲春郡。
肃宗在灵武即位，物色求访贤士，李泌不请自至。拜见肃宗后，他向肃宗陈述了治理天下所以有成有败的道理。肃宗听了很高兴，想给他官做，李泌坚决推辞，只愿以宾客身份相随。他入宫参议国事，外出随车伴驾，人们指指点点说：“穿黄衣服的是皇帝，穿白衣服的是隐士。”肃宗听到后，便赏赐他金印章紫绶，委任他为元帅、广平王李忄叔的行军司马。
肃宗曾对他说：“您曾经侍奉过上皇，又是我的老师，今屈就广平王行军司马，我父子都借助了您的辅佐。”起初，在军队商议元帅一职时，很多人看中了建宁王，李泌密奏肃宗：“建宁王确实很贤良，但广平王是您的嫡长子，具有国君的器度，难道让他成为逃亡的吴太伯吗？”肃宗说“：广平王是太子，何必再让他当元帅呢？”李泌说：“如果元帅有功，皇上不让元帅当太子，能行吗？太子到军队去就是抚军，留在京城就是监国，如今的元帅就是抚军啊！”皇帝听从了他的意见。
当初，肃宗为太子时，李林甫不断说他的坏话，地位十分危险；到他即位后，他非常怨恨李林甫，打算掘墓焚尸以泄恨。李泌认为身为天子而念念不忘旧怨，等于向天下显示自己的气量狭窄，使叛贼能进一步威胁胁从的人。肃宗很不高兴地说“：已往的事你难道忘了吗？”李泌回答说：“臣所考虑的不是这些，上皇在位五十年，突然失志，加以南方气候恶劣，年岁已高，听到陛下心怀旧怨，内心惭愧不悦，万一病倒，这就是陛下有广大的天地却使双亲不得安身了。”肃宗感悟，抱着李泌的脖子哭着说：“我没有想到这一点。”皇帝偶然询问打败安禄山的时间。李泌说：“贼兵抢掠了金银织锦、男女百姓，全送到了范阳，仅有苟合之人贪得之心，他能统治中国吗？为他效力的汉族人只有周挚、高尚等几个人，其他人都是被威逼胁迫的苟合之人，至于治国平天下的大计，什么都不懂。要不了两年就无力暴乱了，陛下不要操之过急。
朝廷的军队，要谋求万全之策，以期长治久安，行动不留后患。当前可诏令：李光弼守太原，出井陉；郭子仪收复冯翊，进入河东，那么史思明、张忠志就不敢离开范阳、常山；安守忠和田乾真则不敢离开长安；这样就用三个地方拴住他四员大将。跟随安禄山的只剩下阿史那承庆一人而已。叫郭子仪不要攻取华县，让贼寇打通关中，这样他北守范阳，西救长安，就会在数千里地之间疲于奔命，他的精兵劲骑，不要一年就会拖垮。我方始终以逸待劳，敌来避其锋芒，敌去趁其疲惫而歼灭；用征调的兵集中在扶风，同太原、朔方军配合攻击敌人。然后再任命建宁王为范阳节度大使，北边靠近边塞与李光弼形成掎角之势，以攻取范阳，贼寇一旦失去巢穴，必然会死在河南诸将的手中。”肃宗认为李泌的意见很对。适逢西域的各军云集，肃宗急欲收回长安，说“：今战必胜，攻必取，哪有空闲到千里之外先取范阳呢？”李泌说“：如果得到东西两京，叛贼将再次强盛，我方将再次受困；况且我们所倚仗的不过是大漠西边的骑兵、各西北少数民族的兵力罢了。
假若先去攻打京城，时间必在春季，关东热得早，马容易生病，士兵都想回家，不宜打仗。叛军将士得以休养生息，必定再次南侵。这是危险的战略。”肃宗听不进去。
两京收复后，肃宗奉迎太上皇玄宗回京，自己情愿仍回东宫当太子以尽人子之道。李泌说：“太上皇不会来了，做人臣的到了七十岁还要传位，难道还让太上皇去为天下事操劳吗？”肃宗说“：那怎么办呢？”李泌就代群臣报捷，详述肃宗想早晚向太上皇省视问安，请太上皇速速回京，好让皇上以尽孝养之道。太上皇得到第一个奏章回答说“：就将剑南一道给我养活自己，我不再东返了。”肃宗十分忧虑。等到二次奏章到达，玄宗高兴地说“：我将成为当今天子的父亲！”
于是便下令准备起程。
崔圆、李辅国因为李泌受肃宗的亲近，非常忌恨，李泌怕带来祸殃，情愿到衡山隐居。于是朝廷下诏赏他三品俸禄，送他一套隐士服，并且为他修盖了庐舍。李泌常常将背靠在弯曲的松枝下，称这种松枝为“靠背”，后来得到一根状如龙形的松枝“靠背”，献给肃宗，于是四方相争效仿。代宗即位，召李泌回宫，安排他住在蓬莱殿书阁。起初，李泌没有妻室，也不吃肉，代宗赐给他在光福里的一所宅第，下诏强迫他吃肉，并为他娶了朔方郡已故的留后李日韦的外甥女做妻子。结婚的那天，还下令北军陈设帷帐以供欢宴。
元载憎恶李泌不依附自己，趁江西观察使魏少游求派助手，称赞李泌有才能，让他以试秘书少监充当判官。元载被杀后，代宗将李泌又召回朝廷。后来李泌又被常衮忌恨，将他调出朝廷任楚州刺史，李泌坚辞不去，代宗也挽留他。
适逢澧州官员空缺，常衮极言南方民生凋敝，请皇帝割爱派李泌去治理，于是委派李泌为澧、朗、峡三州团练使，后调任杭州刺史，各任都有德风政绩。
德宗在奉天时，将李泌召到行宫，授官左散骑常侍。当时李怀光叛变，这年又遭蝗灾、干旱，议政者希望德宗赦免李怀光。德宗广问群臣，李泌撕破一片桐树叶交付使者进呈德宗，并陈奏道：“皇上与李怀光君臣的名份不能再复合，就似这片树叶一样。”因此德宗不赦李怀光。原先，朱氵此作乱，德宗约请吐蕃出兵支援，答应送给他们安西、北庭两个地方。后来浑蠨与朱氵此战于咸阳，朱氵此大败，吐蕃的军队追击败兵不很卖力，反而趁势在武功大肆抢掠而归。京师平定后，吐蕃来京要德宗履行原来的协约。
德宗已经许诺，打算按约把安西、北庭让给他们。李泌说：“安西、北庭控制着西域五十七国以及突厥的十姓部落，都是出精兵的地方，可牵制分散了吐蕃的势力，使他不能够合兵东侵。如果将这两个地方给他们，关中就危险了，况且吐蕃当时犹犹豫豫不肯参战，又掠夺了我们的武功城，简直是盗寇，为什么要将此二地送给他？”德宗这才作罢。
贞元元年(785)，李泌任陕虢观察使。他开始凿山开辟车道直至三门，以利运输粮食。因有功劳晋升检校礼部尚书。淮西的军队为防御异族秋季来犯屯驻在虢州，不久有四千人逃回，有人说是被吴少诚秘密招回来的。这些逃兵一入境，李泌就在半路上拦截迅疾将他们全部消灭了。贞元三年(787)，他被授任中书侍郎、同中书门下平章事，加封邺县侯。当初，张延赏裁减全国的吏员，人心愁怨，致使有流离失所死于路旁者。李泌奏请恢复旧制，德宗不肯，并问道“：现在户口与天下太平时减少了多少？”李泌回答说“：三分之二。”皇帝说“：人口既然减少了这么多，旧制怎能恢复呢？”李泌说“：不是这样，人口虽然减少了，但公事却多于太平时期的十倍。陛下想要裁减州县当然可以，但吏员不能减少。如今有的州府是参军在签署文件，有的县是佐史在判案。所谓裁减官员，是裁去那些多余的人员，决不是那些必要的正常编制。”皇帝说“：哪些人算是多余的官员呢？”李泌回答说“：各州的参军中没有具体职务以及兼、试名目内的官。兼、试官员，自至德年间以来才有，将近正式官员的三分之一，他们可全部免掉。”皇帝这才允许吏员复职，并罢免了那些冗官。
李泌又分条陈奏：“朝中的常侍、宾客有十个官员，其中六个可以取消；左右赞善有三十个，其中二十个可以取消。按照旧制，诸王在没有出宫任职之前，都不委任属吏。节省下来的官俸，就大大超过减少吏员的收入了。”德宗很高兴。
当时，一个州刺史每月薪俸高达千缗，节度使收入没有限度，但在京官员的薪俸却很低。节度使被调到京城来做官，竟被称作失权。薛邕由尚书左丞贬为歙州刺史，家中人只遗憾贬得太晚了。
崔..甫在京城任吏部员外，请求外放到洪州当别驾。节度使府中的宾客辅佐如果不听话，就推荐他们到京城去做郎官。
那些应该升迁任重臣的，都因不赴任被治罪免职。李泌认为外官俸禄过厚，在京的官员的俸禄太少，便请求按照官职的闲忙普遍增加薪俸，人们称合适。然而窦参却多次干扰他的事，不能全部按照李泌所奏请的实行。李泌又奏请皇帝撤销拾遗、补阙的官职，皇帝虽然没有应允，但从此再也不任命谏官，只任用韩皋、归登两个谏官。李泌收回他们的办公费，让他们两人就在中书舍人署搭伙。
过了三年，才让韦绶、梁肃两人担任左右补阙。
太子妃子萧氏的母亲，是郜国公主，因犯有勾引罪，被囚禁宫中。皇帝十分生气，便斥责太子，太子不知该如何对答。李泌入宫后，皇帝多次称赞舒王贤德，李泌揣摩到皇帝有废黜太子另立舒王之意，便说：“陛下只有一个儿子，还不相信他，却想立弟弟的儿子，臣不敢拿古代的事例来争辩。况且十宅诸叔，陛下让哪一家的侄子当太子呢？”皇帝发怒道“：你怎么知道舒王不是我的儿子呢？”
李泌答道：“陛下过去曾说过，陛下有亲生的儿子却怀疑他，弟弟的儿子怎能相信陛下呢？”皇帝说：“你违抗我的意愿，难道不顾及家族吗？”李泌回答说“：臣已经衰老，身为宰相，因为直言劝告而被诛，也是应该的；假若太子被废，他日陛下后悔了就会说‘：我仅有一个儿子被杀了，李泌却不向我进谏，我也要杀你的儿子。’这么一来，臣就绝后了。纵然有兄弟的儿子，但并不是能祭祀我的。”说罢痛哭流涕，接着又说：“昔日太宗曾下诏：‘太子不好，同时又有藩王窥伺太子位的，两者都废掉。’陛下不相信东宫太子而称道舒王贤德，难道舒王就没有窥伺之嫌吗？假若太子有罪，就把太子废掉而立皇孙，这样千秋万代之后，天下仍归陛下子孙所有。况且是郜国公主为妒忌她的女儿，而去扰乱东宫，怎能因为妻子母亲的罪过连累太子呢？”争执了很多次，李泌的意见愈来愈坚决，皇帝方醒悟过来，太子才得以平安无事。
当初，兴元年以后，国库空虚，封赏物品大都减少了三分之二。按老规矩封赏宰相每年三千六百匹，后来仅有一千二百匹。这时皇帝决定恢复旧制的宰相封赏。李晟、马燧、浑蠨等人都享受收缴赋税的封户，便将赏予的缣全部给李泌，李泌不接受。这时各地方镇私向皇帝进贡，每年都有五十万缗，后来慢慢减到三十万，皇帝因费用匮乏垂问李泌，李泌奏道“：天下每年用百万钱供给宫中，皇上不要接受私人的奉献。凡是下诏必须索派的，就代两税，这样各方镇就可依法行事，国家用度就宽裕了。”
德宗曾随口说道“：卢杞清正敢于说话，然而学识浅薄，不能增长我的历史知识，人们都说他为人奸诈，但是我却没有感觉到。”李泌回答说“：陛下如果能早日觉察到卢杞的奸诈险恶，怎能导致建中年间的灾祸呢？派李揆去和番，让颜真卿出使李希烈，他坑害有德望的故老的事太多了。又如杨炎虽然有罪但并没有构成死罪，卢杞排挤陷害他却任命关播为相。李怀光立了功，却逼得他叛变。
这都是欺君之罪啊。”德宗说“：你说的都是事实。但杨炎把我看成了三尺童子，他有什么议论奏章，我准了他就退下，不答应他就辞官不干，不仅仅是卢杞讨厌他啊。而且建中之乱，你知道桑道茂说过的话吧？这是命该如此啊！”李泌回答道“：所谓命，是已经如此的一种托辞。
君王的使命就是造就命运，就不应该再谈什么命了。如果讲命，就不再用去赏善罚恶了。夏桀曾说‘：我的降生不是由天命决定的吗？’武王指责纣说“：自认有天命。’当君王的人去大谈特谈命，就成了夏桀、商纣了。”皇帝说：“我再也不说命了。”立即加封李泌为集贤殿、崇文馆大学士，修治国史。李泌建议：学士头衔上再冠一个“大”字，是从中宗开始的，到了张说任此职时，坚决谢辞，仅以学士衔主持翰林院事务。到了崔圆又被封大学士，他引用李泌辞让这个称号才没封。
皇帝问李泌“：以前上巳、重阳节日，都大设酒宴集会，但寒食节往往与上巳同时，朕想在二月份命名一个节日，从我这里开始，怎么样才好呢？”李泌说：“取消正月最后一日的那个节日，以二月初一为中和节。赐给大臣及帝王外戚们一把尺子，称它为‘裁度’。民间就以黑色布袋盛装百谷瓜果种子互相赠送，称为献生子；各家各户酿制宜春酒，用来祭祀勾芒神，祈求丰年。百官进献农书，以表示务农为本。”皇帝大喜，于是便下令，将中和节与上巳、重阳并列为三令节，宫内宫外，都赏赐缗钱举行宴会。
贞元四年(788)八月，在东壁星官天区发生月蚀，李泌说：“东壁象征图书府的所在地，大臣中可能会有人丧命。我是当朝的宰相兼学士，该轮到我了。以前燕国公张说就是由于这种天象而死的，我怎能避免呢？”第二年果然去世了，享年六十八岁，死后追赠为太子太傅。
李泌一直担任宫廷内外要职，侍奉过四代君王，屡屡为权贵所忌恨，常常靠他的才智过人而幸免。李泌喜欢高谈阔论，常有公正议论，能让人主醒悟而改变主张。然而他常常持黄老鬼神之说，以致被人们非议。当初肃宗迷信阴阳巫祝，选拔王..执政，凡是兴建施工，动辄拘泥于禁忌俗说。黎干靠旁门左道当上了京兆尹后，曾叫禁工用并列的珍珠刺绣缝制皇帝服装，又用火烧掉来除病祛灾和求福。德宗对此一贯不以为然，他登基以后，立即撤掉了宫内的道场，赶走了巫祝。代宗将要安葬时，德宗嚎啕大哭地到承天门送行，而灵车却不按正道行驶。问是何缘故，官吏说：“陛下出生在午时，所以要避开走中间到达丧葬地点。”皇帝哭泣说“：哪能委屈先王的灵驾来考虑自身的利益呢？”便下令灵车在路中间向前走。后来宣政殿的走廊倒塌，太卜说“：十月犯魁冈，不可营造修缮。”
皇帝说“：《春秋》一书上有‘启塞从时’这句话，管他什么魁冈呢？”立即下诏动工修建。到了桑道茂修筑奉天城的事应验，才开始重视时日的禁忌，因此进一步重用了李泌，李泌也出了不少主意。惟独柳王比称道李泌，说他在收复两京上计谋最多，他的功绩大大超过古代的鲁仲连和范蠡。