资治通鉴：排斥贤相，独揽大权。李林甫初登相位，在三位宰相中是地位最低的。张九龄、裴耀卿博学多才， 敢于诤言直谏，在统治集团中具有较高的声望。而李林甫自幼不学无术，其文学水平仅能做做笔录，抄抄写写而已，为此还曾闹过不少笑话。
一次，他负责官吏的年度考核升迁时，吏部侍郎韦陟在一个叫严回的选人卷子上批了“杕杜”二字。（杕音di)批语“杕杜”是指此人不能亲其宗族的意思，诗经《唐风》有《搞杕篇》。李林甫不识“杕字”，把“杕杜”读作“杖杜”，并问韦陟：批上“杖杜”二字，是什么意思，韦陟听后啼笑皆非，只得低头装作没有听见。今天看来，这种字比较冷僻，不认识是正常的，但在当时，封建官僚都要熟读《四书》、《五经》，作为一国宰相，却不知其意，甚至读成错字，足见他的文才水平如何了。
还有一次，李林甫的表弟太常少卿姜度生了儿子，做满月时，李林甫前往庆贺，送了个喜幛，还亲笔题写了贺词，但在贺词中竟把常识性的“弄璋之喜”的“璋”字写成“鲍”字。璋是玉器名字，而鲍就是膀，是一种野兽，一字之差，相差何远！当日姜府宾客盈门，见了李林甫所写的贺词，都掩口暗笑不已，闹了个大笑话。
李林甫的文学水平虽然很差，但却精于官场之道和弄权之术，他刻意伪装自己，表面上待人十分恭顺谦和，以笼络人心，即使对某人有切齿仇恨，他也能含而不露，还会极力奉承，以麻痹对方，伺机除去。为了取宠玄宗，他对皇帝近臣太监、嫔妃，不管职务大小，地位高低，见面总是恭维一番，并常常送些金银财物给他们。因此大家都觉得李林甫没有架子，很好相处。李林甫则利用他们了解到玄宗的喜怒哀乐、言行意图，加以揣摩。这样他说话办事总是能迎合唐玄宗的心意，能说出唐玄宗想说的话，办好唐玄宗想做的事。天长日久，居然日益博得了唐玄宗的宠信。
李林甫担任宰相以后，自知才学、资历、声望都不如张九龄和裴耀卿，要能够保住相位独揽大权，必须除去这两个障碍，特别是张九龄。因为张九龄一向对李林甫的为人十分鄙视，唐玄宗决定任李林甫为宰相，向他征询意见时，张九龄对唐玄宗说：“陛下，宰相的人选关系到国家的安危，您任李林甫为相，我看不妥当。他这种人做宰相，一定会给朝廷带来祸害。”但当时唐玄宗对李林甫已很宠信，没能听张九龄的话。李林甫知道此事后，对张九龄恨得咬牙切齿，决计报复，但考虑到当时自己的地位声望还不如张九龄，只得忍耐，等待时机。为麻痹对方他表面上对张九龄恭而敬之，言听计从，曲意迎奉。
唐玄宗统治前期，能勤于政事，认真听取大臣的意见，任用敢于直谏的姚崇宋殿等为宰相，出现了开元盛世的繁荣景象。但皇帝做得久了，便开始怠于政事，渐渐听不进臣下的逆耳忠言了。而张九龄，裴耀卿为人正直，敢于诤言直谏，常常使唐玄宗十分尴尬，弄得他很不高兴。相反，李林甫却事事迎合唐玄宗的心意，所以唐玄宗对张、裴两相越来越不满意，对李林甫却日益倚重。李林甫觉察到玄 宗态度的变化，于是寻找一切机会在玄宗前说张九龄和裴耀卿的坏话。
开元一十四年（公元736年），唐玄宗因朔方节度使牛仙客能忠于职守所领辖区内仓廪丰实，武备精良，政绩显著而想提升他担任尚书右丞相，但遭到了张九龄的反对。张九龄认为，“牛仙客是目不识丁的一介武夫，如把尚书右丞相这么重要的文职委任给他，恐怕群臣不服，让中外见笑，影响朝廷声誉。”唐玄宗听后觉得有理，便说：“那么赐给他封地总可以吧？”张九龄也不赞成，说道：“仙客所做的只不过是他应该做好的本分事情而已，如果每个人做好了本职就有加封，这会引起冒功争赏造成不良影响。”唐玄宗见张九龄这也不行，那也不行，不能称自己的心意，很不高兴，还认为他这是妒忌牛仙客的功劳。
李林甫观察到唐玄宗表情的变化，退朝以后，他单独去见玄宗，说道：“陛下，我看牛仙客的才能足可以为宰相，做个尚书右丞相有什么不能的？张九龄书生气太足了，只知道拘泥于古义，不识大体。天子用人，主要是看的才能，何必一定讲究文学水平如何呢？”唐玄宗听了认为李林甫很有见识，且不专权，对他更加重用，日渐疏远了张九龄。