唐玄宗做了二十多年太平天子，渐渐滋长了骄傲怠惰的情绪。他想，天下太平无事，政事有宰相管，边防有将帅守，自己何必那么为国事操心。于是，他就追求起享乐的生活来。
宰相张九龄看到这种情况，心里挺着急，常常给唐玄宗提意见。唐玄宗本来很尊重张九龄，但是到了后来，对张九龄的意见也听不进去了。
有一个大臣李林甫，是一个不学无术的人。他什么事都不会，专学了一套奉承拍马的本领。他和宫内的宦官、妃子勾结，探听宫内的动静。唐玄宗在宫里说些什么，想些什么，他都先摸了底。等到唐玄宗找他商量什么事，他就对答如流，简直跟唐玄宗想的一样。唐玄宗听了挺舒服，觉得李林甫又能干，又听话，比张九龄强多了。
唐玄宗想把李林甫提为宰相，跟张九龄商量。张九龄看出李林甫不是正路人，就直截了当地说：“宰相的地位，关系到国家的安危。陛下如果拜李林甫为相，只怕将来国家要遭到灾难。”
这些话传到李林甫那里，李林甫把张九龄恨得咬牙切齿。朔方（治所在今宁夏灵武）将领牛仙客，目不识丁，但是在理财方面，很有点办法。唐玄宗想提拔牛仙客，张九龄没有同意。李林甫在唐玄宗面前说：“像牛仙客这样的人，才是宰相的人选；张九龄是个书呆子，不识大体。”
有一次，唐玄宗又找张九龄商量提拔牛仙客的事。张九龄还是不同意。唐玄宗发火了，厉声说：“难道什么事都得由你作主吗！”
唐玄宗越来越觉得张九龄讨厌，加上听信了李林甫的诽谤，终于借个因头撤了张九龄的职，让李林甫当宰相。
李林甫一当上宰相，第一件事就是要把唐玄宗和百官隔绝，不许大家在玄宗面前提意见。有一次，他把谏官召集起来，公开宣布说：“现在皇上圣明，做臣下的只要按皇上意旨办事，用不到大家七嘴八舌。你们没看到立仗马（一种在皇宫前作仪仗用的马）吗？它们吃的饲料相当于三品官的待遇，但是哪一匹马要是叫了一声，就被拉出去不用，后悔也来不及了。”
有一个谏官不听李林甫的话，上奏本给唐玄宗提建议。第二天，就接到命令，被降职到外地去做县令。大家知道这是李林甫的意思，以后谁也不敢向玄宗提意见了。
李林甫知道自己在朝廷中的名声不好。凡是大臣中能力比他强的，他就千方百计地把他们排挤掉。他要排挤一个人，表面上不动声色，笑脸相待，却在背地里暗箭伤人。
有一次，唐玄宗在勤政楼上隔着帘子眺望，兵部侍郎卢绚骑马经过楼下。唐玄宗看到卢绚风度很好，随口赞赏几句。第二天，李林甫得知这件事，就把卢绚降职为华州刺史。卢绚到任不久，又被诬说他身体不好，不称职，再一次降了职。
有一个官员严挺之，被李林甫排挤在外地当刺史。后来，唐玄宗想起他，跟李林甫说：“严挺之还在吗？这个人很有才能，还可以用呢。”
李林甫说：“陛下既然想念他，我去打听一下。”
退了朝，李林甫连忙把严挺之的弟弟找来，说：“你哥哥不是很想回京城见皇上吗，我倒有一个办法。”
严挺之的弟弟见李林甫这样关心他哥哥，当然很感激，连忙请教该怎么办。李林甫说：“只要叫你哥哥上一道奏章，就说他得了病，请求回京城来看病。”
严挺之接到他弟弟的信，真的上了一道奏章，请求回京城看病。李林甫就拿着奏章去见唐玄宗，说：“真太可惜，严挺之现在得了重病，不能干大事了。”
唐玄宗惋惜地叹了口气，也就算了。
像严挺之这样上当受骗的还真不少。但是，尽管李林甫装扮得怎么巧妙，他的阴谋诡计到底被人们识破。人们就说李林甫这个人是“嘴上像蜜甜，肚里藏着剑”（成语“口蜜腹剑”就是这样来的）。
李林甫当了十九年宰相，一个个有才能的正直的大臣全都遭到排斥，一批批钻营拍马的小人都受到重用提拔。就在这个时期，唐朝的政治从兴旺转向衰败，“开元之治”的繁荣景象消失，接着出现的就是“天宝之乱”（天宝是唐玄宗后期的年号）。