“去河北贼易，去此朋党实难。”这是唐文宗面对国家藩镇割据、宦官专权、朝官间的朋党之争所发出的无奈叹息。这两个政客集团，一称“李党”，一称“牛党”。李党的重要人物有李德裕、李绅、郑覃，牛党的重要人物有李逢吉、牛僧孺、李宗闵。李党多是世家士大夫，牛党则是寒门士大夫，出身平民。两派官员互相倾轧，争吵不休，一直闹了40年，历史上把这种争吵叫做“朋党之争”。
一、出身之别
朝官中之所以形成对立的党派，往往是由于出身的不同。“出身”指的是入仕为官的途径。在唐朝，要么是依靠祖荫、门第入仕，要么是凭借科举进士为官。
李党魁首李德裕，祖父李栖范，在唐代宗时曾为御史大夫，父亲李吉甫在宪宗时两次入相，权倾一时。牛党中的李宗闵、牛僧孺则是进士出身。李宗闵虽是唐高祖之子李元懿的玄孙，但由于长期以来好几代没有高官厚禄了，祖父就已经无荫可言，李宗闵只有通过科举考试，得中进士的途径为官。牛僧孺更是出身寒门，苦读寒窗才中了进士。
出身不同，政见也不同，这就构成了朋党之争的基础。公元808年，唐宪宗策试贤良方正科(制举考试的一种，对国家的大政方针、时事政策等发表意见，可直言极谏)。李宗闵是前科进士，牛僧孺因为不满足于一个县尉之职，两人都参加了这次考试，期望得到考官及皇上的垂青和赏识，得以加官晋级。在应策中，他们和另一个县尉皇甫浞都直言不讳地指陈时弊，攻击了宦官以及藩镇的问题。三人的对策都得到了考策官的赞赏，评为上第等级，皇上对此也表示了嘉许。不料半路上杀出了宰相李吉甫，他对唐宪宗说：“皇甫浞是策试复核官员王涯的外甥，王涯没有避嫌，其中必有虚假包庇。”皇上一时没了主意，只得重新评判，考官一一被贬，牛僧孺、李宗闵的升迁更是成了泡影。后来，他们知道是李吉甫断了他们的升迁梦，自然是怀恨在心，见到李德裕后，不免把对老子的怨恨加在儿子身上。
二、长庆科举
公元821年，由礼部执掌的常科考试中，西川节度使段文昌、翰林学士李绅因为一些利益、人情关系，分别推荐士人杨深之、周汉宾。这次主持考试的是右补阙杨汝士及礼部侍郎钱徽，因而段文昌、李绅两人都写信给钱徽，要求予以关照。然而事与愿违，揭榜之日，杨深之、周汉宾名落孙山，及第的是郑覃之弟郑朗，裴度之子裴撰，李宗闵的女婿苏巢，杨汝士的弟弟杨殷士等主考官的亲朋故旧。
李绅、段文昌二人大怒，告到穆宗面前。李德裕知道李宗闵与自己已过世的父亲有过节，元稹也与李宗闵在仕途进取上有矛盾，而这次中第者中有李宗闵的女婿苏巢，他们二人便为段文昌作证。穆宗立即命中书舍人王起重新复试，结果是中第的这些人确是名不符实。穆宗大怒，不仅免去了中第者的进士之名，而且诏贬钱徽为江州刺史，杨汝士为开江县令，李宗闵为剑州刺史。
这件事加深了李德裕与李宗闵之间的仇恨，此后，他们各树朋党，互相倾轧，揭开了牛李党争的序幕。
三、水火不容
矛盾冲突揭开后，牛李两党各自树立了朋党集团，不论哪方得势，在人事安排上，都极力排斥对方，培植私党。他们提携自己的同年、同学为官，而这些同年、同学又有各自的老乡、朋友，从而形成盘根错节的关系网，覆盖了朝中大大小小的重要机构。长安城中有“门生故吏，不牛则李”之说。
公元832年，牛僧孺遭到罢相，李德裕还朝，被唐文宗委以重任。李宗闵得知后如坐针毡，长吁短叹。这时，牛党的骨干杜悰给李宗闵献了一计，他说：“李德裕虽自恃有才，但不是科举出身，只是依靠祖辈门荫，因此也常心有戚戚，如举荐他为知举(进士科主试者)，他一定心满意足，同时也就阻塞了他的入相之路。”李宗闵当即深表赞同。