天祐元年（904年），朱温强迫唐廷迁都洛阳，弑唐昭宗而立辉王李柷，是为哀帝。告哀使到晋阳，李克用南面痛哭，令三军穿素服以志哀。天祐四年（907年），朱温迫不及待地废唐哀帝，自立为王，建立后梁。

    朱温称帝后，当时割据四川的王建也想称帝，派使劝李克用一起称帝，割据一方，被李克用婉言谢绝，说自己“累朝席庞，奕世输忠”，因此“誓于此生，靡敢失节”。表面上看起来是忠于唐朝廷，但其实，李克用不是不想称帝，而是想趁朱温称帝之机，兴灭朱兵。他已经看出，朱温急匆匆称帝招致了各地反对，可见唐朝虽亡，但还是没有失尽民心。于是李克用站出来，以唐朝忠臣的身份进行讨伐，利用朱温内部矛盾重重，外部失尽民心的有利时机扩充领地，在与后梁的对抗中逐渐占了上风。

    早在天祐二年（905年），李克用就与契丹主阿保机联盟，欲渡河南征。天祐三年（906年），李克用遣兵攻邢州，克泽、潞州。天祐四年（907年），朱温重兵十万围潞州（今山西长治），李克用也派兵驰援。朱温再派军，在城外筑了一道夹寨，将李克用的部下李嗣昭包围在城内，双方相持了一年。李克用派周德威去解围，双力打得很激烈，也没有能将朱温的军队击溃。两军对垒，难分胜负。

    就在双方相持的时候，李克用却因头部疽发身染急病，于后梁开平二年（908年）死于晋阳，当时仅五十二岁。

    李克用突然去世后，周德威的援军撤还晋阳，朱温认为攻破潞州已不在话下。不料李克用的儿了李存勗率援兵日夜兼程，出其不意地击败了朱温的军队，解了潞州之围，缴获了大量的粮食军械。后来李存勗又用智取的办法，多次击败了朱温的军队，朱温的军队因而在心理上对李存勗产生了恐惧心情，往往两军还未接手就纷纷溃散。朱温感到自己后继无人，不是李克用儿子的对手，所以感叹说：“生子当如李存勗，我的儿子比起来只是猪狗而已”果然不出所料，朱温死后，他的儿子朱友贞被李存勗所灭。

    临终时，李克用下令薄葬，发丧之后二十七天便可除去丧服。在当时，儿子为父亲服丧要满三年，这是丧期最长的。最短的丧期也有三个月。李克用要求缩短，自然是要儿子李存勗以大局为重，把精力放在打退梁军上。

    李克用临终时还交给李存勗三支箭，鼓励儿子说：“一支箭先讨伐刘仁恭，你如果不先攻占幽州，那么河南地区也难夺取。一支箭北击契丹，当初阿保机和我盟誓结为兄弟，相约兴复唐朝社稷，后来他却背信弃义，你一定要讨伐他。最后一支箭去灭朱温，你如能完成我这三项未实现的心愿，我死而无憾了。”显然，李克用因壮志未酬，遗恨绵绵，可以说死不瞑目。好在儿子还算争气。李存勗将三支箭藏在李克用的太庙中，到讨伐刘仁恭时，便请出一支，放在锦囊中，命亲将背着追随自己左右，凯旋之日，随同战俘一同献于李克用太庙，后来伐契丹、灭后梁都是如此。

    李克用生前始终未敢称帝，死后却得到了皇帝的名号。李存勗称帝建后唐时，追认他为武皇帝，庙号为太祖。

    这里再提一下三垂岗战役。李克用死后，李存勗戴孝出征。

    当时，朱温的后梁军正与李军争夺潞州，潞州即上党。上党古称天下之脊，战略地位极为重要，自古为兵家必争之地。谁占据了上党、太行的地利，就可以囊括三晋，跃马幽冀，挥戈齐鲁，问鼎中原。因此，从公元883年至907年，二十多年间，朱温等与李克用反反复复争夺上党，主要城池、关隘先后五度易手，战事惨烈。到了公元907年，朱温篡唐自立为皇帝后，派兵十万再攻上党。守将李嗣昭闭关坚守，梁军久攻不克，便在上党城郊筑起一道小长城，状如蚰蜒，内防攻击，外拒援兵，谓之“夹寨”。两军相持年余，战事进入胶着状态。

    李存勗召集众将说：“梁人幸我大丧，谓我（年）少而新立，无能为也，宜乘其怠击之。”他亲率大军，疾驰六日，进抵三垂岗。

    当年，李克用在邢州大捷之后，还军上党，曾在三垂岗休整。李存勗时年只有五岁。一天，李克用外出校猎，将李存勗带在身边。猎间小息，他乘兴到一座古祠饮酒，随行伶人奏起声调凄苦的《百年歌》，暗示岁月无情，人生易老。惯于戎马生涯的李克用，不仅未被乐曲伤感的旋律感染，反而乐观地抚摸着偎依在膝边的李存勗说：“老夫壮心未已。二十年后，此子必战于此。”

    故地重游，回忆往事，李存勗忍不住感叹道：“此先王置酒处也！”

    李存勗随即将全军隐蔽集结，梁军毫无察觉。次日凌晨，弥天大雾，李存勗借大雾的掩护，挥师前进，直捣梁军“夹寨”。此时梁军尚在梦中，仓促不及应战，被晋军斩首万余级，余众向南奔逃，投戈弃甲，填塞道路。符道昭等将官三百人被俘，只有康怀英等百余骑出天井关（一名太行关）逃归。朱温在开封闻讯，惊叹道：“生子当如是。李氏不亡矣！吾家诸子乃豚犬（猪狗）尔！”

    三垂岗战役是长途奔袭，以隐蔽奇袭取胜，为之后李存勗兵下太行、逐鹿中原打下牢固的基础。

    李克用父子诚然都是叱咤风云、智勇兼备的乱世英雄，只可惜英雄一生，也未必能尽如人意。比李克用抱憾而终更具有悲剧性的是，李存勗是含恨而死，他长于军事而短于政治，夺取天下之后就与从前判若两人，从此弊端百出。关于李存勗，在最后一篇关于五代十国的《天下角逐兴亡中》中再行讲述。