而李存勖出身于西突厥沙陀部，本姓朱邪，世为沙陀酋长。祖父朱邪赤心因镇压庞勋兵变有功，被唐朝皇帝赐为李姓，编入宗室谱籍。父亲李克用，官至河东节度使，封晋王，驻节太原，建立河东割据势力。
当时，梁王朱温盘踞宣武镇，控制中原地区。李克用与朱温为争夺中原霸权，进行了二十余年的梁晋争霸战争。
李存勖是李克用与侧妃曹氏所生，自幼便善于骑射，胆略过人，心性豁达，深得父亲宠爱。他爱读《春秋》，略通微言大义，而且精擅音律，可谓文武双全。
乾宁二年，邠宁节度使王行瑜联合凤翔节度使李茂贞、镇国节度使韩建，攻入长安，谋废唐昭宗。李克用率军勤王，讨平三镇叛乱。李存勖时年十一岁，也随军征战，并入朝献捷，受到唐昭宗的夸奖与赏赐。不久，李存勖被授为检校司空，遥领隰州刺史，后改领汾州、晋州。
天复二年，李克用因太原两次被梁军围困，无力抗衡朱温，为此忧虑不安。李存勖劝慰道：“物不到极点不会反复，恶不到极点不会消亡。朱温威逼天子，觊觎帝位，陷害良善，可谓是自取灭亡。我家三代尽忠王室，如今虽因势穷力屈无法报效，但也无愧于心。父亲您应忍耐静观，积蓄力量，以待朱温衰弱之时再图复兴，怎能轻易就灰心丧气呢。李克用因而释然。
天祐三年，朱温遣军攻打沧州，幽州节度使刘仁恭遣使向李克用求救。李克用恼怒刘仁恭的反复无常，不愿发兵援助。李存勖却道：“如今朱温已占据天下的九分之七，连魏博、成德等藩镇也归附于他，黄河以北能与之对抗的只剩下我晋国和刘仁恭了。如果我们不救刘仁恭，形势将会对我们更加不利。而若出兵援助，可使我晋国重振雄风，万不能因嫌怨而失此良机。”李克用遂遣军攻取潞州，迫使朱温由沧州撤兵。
天祐四年，朱温篡唐称帝，建立后梁，史称梁太祖。他改元开平，定都于汴州。但李克用拒不承认后梁政权，仍沿用唐朝天祐年号，以复兴唐朝的名义与后梁相对抗，成为后梁北方最大的威胁。是年五月，朱温派十万兵马围攻潞州，修筑夹寨。李克用命周德威援救潞州。但周德威与梁军对峙年余，却始终不能解除潞州之围。
天祐五年，李克用病逝。李存勖继任河东节度使，袭封晋王，时年二十四岁。当时，李克用的养子李存颢、李存实等人自恃手握军权，又年长于李存勖，对李存勖袭位非常不满。他们有的称病不朝，有的见而不拜，甚至怂恿叔父李克宁发动叛乱，意欲谋害李存勖，投降后梁。李存勖沉着应对，首先取得监军张承业、大将李存璋等人的支持，而后抢先行动，在府中埋伏甲士，擒杀李克宁、李存颢等人，初步稳固了国内政局。
是年四月，李存勖亲自率军援救潞州，于二十九日抵达潞州北面的黄碾。梁军本以为李存勖年轻继位，必然不敢出军，对此毫无防备，也未派出斥候探查。五月初二，李存勖伏兵于三垂冈下，趁着大雾直攻夹寨，出其不意的大破梁军，彻底解除了潞州之围。经此一战，晋国兵威大振。不久，李存勖返回太原，犒赏军士，而后开始整顿内政。他严肃军纪、抚恤孤寡，任用贤才，惩治贪腐，宽缓刑罚，打击盗贼，使得晋国民俗大变，百姓归心。
天祐七年十一月，朱温遣军三千进驻深州、冀州，企图夺取成德、义武两镇。成德节度使王镕、义武节度使王处直先后遣使向李存勖求援，表示愿与晋国结成反梁同盟，共推李存勖为盟主。李存勖力排众议，毅然发兵相救。他亲率晋军东进，于是年十二月进至距离柏乡五里处的野河北岸，与梁军隔河对峙。
天祐八年正月，李存勖命周德威率三百精骑到梁军营前挑战，激怒梁将王景仁，将梁军诱至鄗邑以南的平原旷野地带。他利用地形优势，以逸待劳，在梁军疲惫时率骑兵突击，大破梁军，俘获梁军将校二百八十五人，斩首二万级。此战，梁军伏尸数十里，龙骧、神威、神捷等精锐禁军全军覆没，王景仁、韩勍、李思安仅率数十骑连夜逃归。成德镇、义武镇从此彻底倒向晋国。
柏乡之战后，李存勖决定暂缓对后梁的攻势，先夺取河北地区，以消除后顾之忧，首要目标便是囚禁父亲刘仁恭而继任幽州节度使的燕王刘守光。他采用骄兵之计，联合成德、义武、昭义、振武、天德五镇，遣使奉册，共尊刘守光为尚父，以滋长其野心。刘守光却以为六镇是畏惧幽州兵威，更是骄狂。他得知尚父无权祭天、改元，不顾幕府诸将反对，于天祐八年八月在幽州悍然称帝，国号大燕，史称桀燕。是年十二月，李存勖命周德威兵出飞狐口，联合成德镇、义武镇一同征讨刘守光。
天祐九年，周德威夺取涿州，进围幽州。刘守光忙向后梁求救。朱温亲率大军北上，命杨师厚围攻枣强，又命贺德伦攻打蓚县。但梁军虽攻破枣强，却在蓚县被晋将符存审、史建瑭击败。朱温羞愤发病，返回洛阳，不久便被其子朱友珪弑杀。
天祐十年，朱友贞发动政变，诛杀朱友珪，夺取帝位，史称梁末帝。而晋军则连夺幽州镇统辖的顺州、檀州、武州、平州、营州等地。是年十一月，李存勖亲征燕国，攻破幽州，俘获刘仁恭、刘守光父子。他留周德威镇守幽州。
天祐十一年，李存勖返回太原，处死刘仁恭父子，以祭奠李克用。当时，李存勖南破后梁，北定桀燕，威震天下。王镕、王处直相继遣使入晋，共推李存勖为尚书令。存勖依礼三辞，而后接受尚书令之职。他在太原开设霸府，建立行台，以唐朝皇帝的名义承制任命官吏。
天祐十二年，魏博节度使杨师厚病逝。梁帝朱友贞趁机将魏博镇分为两镇，以削弱藩镇势力，结果引发魏博兵变。变兵囚禁新任节度使贺德伦，请降于晋。李存勖乘势进占魏州，并处死变兵首领张彦等人，以威慑兵变士卒，稳定乱局。他收魏博牙兵为亲军，亲自兼领魏博节度使，随后又攻取德州、澶州。是年七月，李存勖进兵莘县，与梁将刘鄩展开对峙。
天祐十三年，李存勖声言回师太原，以引诱刘鄩出战。刘鄩果然中计，欲趁机夺回魏州，结果遭到李存勖、李嗣源、符存审的三面夹击，在元城一战中全军溃败，逃奔滑州。此后，李存勖又遣军接连攻取卫州、洺州、相州、邢州、沧州、贝州等地。黄河以北除黎阳一地外，全部被晋国占领。梁晋形势从此发生逆转。
天祐十四年，寿州刺史卢文进叛附契丹，并引契丹军南下。契丹皇帝耶律阿保机亲率五十万大军，入寇幽州。守将周德威孤军坚守幽州，同时遣使向李存勖求援。李存勖遂命符存审、李嗣源、阎宝统领七万步骑，北上救援。是年八月，李嗣源率援军抵达幽州城外，大败契丹军，解除幽州之围。此战，晋军俘斩以万计，缴获牛羊、辎重无数。
契丹败退，北疆暂保无忧。李存勖开始调兵南下，推锋至黄河岸边，与梁军夹河对峙，争夺黄河沿岸各处要点。
天祐十四年十二月，李存勖率军东进，连破梁军数座营寨，攻陷杨刘城，俘获守将安彦之，并攻掠至郓州、濮州一带。当时，朱友贞正在洛阳进行祭天大典，闻讯仓皇赶回汴州，组织复夺杨刘城。但谢彦章数次用兵，始终未能收复杨刘城。
天祐十五年八月，李存勖调发河东、魏博、幽州、横海、义武等镇军队，齐集魏州，准备直捣汴州，一举灭亡后梁。是年十二月，李存勖由濮州境内的麻家渡渡过黄河，进驻胡柳陂，与梁军展开血战。晋军大败，周德威战死。李存勖被迫据土山自保。当时，围山梁军多是步卒，而且立足未稳。李存勖采用阎宝、李建及的建议，以骑兵突击，终于反败为胜，击溃梁军。此战，晋军虽乘胜夺取濮阳，但也因伤亡惨重，无力再攻汴州，只得撤归河北。
天祐十六年，符存审进据德胜城，并夹河修筑南北两城。梁将贺瑰围攻德胜南城，并以竹索连结战船横列河面，将李存勖所率援军阻在黄河北岸。李建及率三百勇士，乘船驶至河中，斧劈火烧，冲破了梁军船阵。李存勖乘势挥军渡河，大败梁军。
后来，梁将王瓒从黎阳渡河，屯据杨村渡，修造浮桥，储存大量军需物资。而李存勖也征发数万民丁，扩建德胜北城。当时，梁晋两军每日大小百余战，互有胜负。
天祐十七年，河中节度使朱友谦攻取同州，叛梁降晋，结果遭到刘鄩的围攻，遣使向李存勖求援。李存勖命符存审、李嗣昭、李建及出军援救，在同州、渭河两次大败刘鄩，并追击至奉先一带。河中镇从此归附于晋国。
天祐十八年，成德军将张文礼煽动兵变。李存勖迫于形势，授其为成德兵马留后。不久，河中、昭义、横海、成德等十一藩镇，一同遣使劝进，请李存勖建国称帝，被李存勖拒绝。八月，李存勖命阎宝征讨成德镇，围困镇州。张文礼惊惧病死，其子张处瑾接掌军事，继续负城顽抗。义武节度使王处直勾结耶律阿保机，引契丹军南下，意图背叛李存勖，结果被义子王都囚禁。王都继任节度使，不久便被契丹军围困在定州。
天祐十九年，李存勖亲率五千铁骑北上，先后在新城、望都大败契丹军，解除定州之围，并乘胜追击至幽州。但与此同时，晋军在镇州却连连失利，损兵折将。阎宝攻城受挫，羞愤病逝。继任主帅李嗣昭、李存进相继战死。
而梁军则趁虚反扑，攻克卫州、新乡等地，重新夺回河北重镇相州。是年九月，镇州终因久被围困，粮尽力穷，被符存审攻破。张处瑾及党羽张处球、高濛、李翥等皆俘送魏州处死，张文礼也被劈棺戮尸。李存勖又兼领成德节度使，将成德镇直接纳入晋国管下。
天祐二十年四月，李存勖接受诸镇劝进，在魏州称帝，改天佑二十年为同光元年。他沿用“唐”为国号，又追赠父祖三代为皇帝，与唐高祖、唐太宗、唐懿宗、唐昭宗并列为七庙，以表示自己是唐朝的合法继承人，史家称之为后唐。当时，后唐辖有魏博、成德、义武、横海、幽州、大同、振武、雁门、河东、河中、晋绛、安国、昭义等十三个节镇、五十个州。
后唐建立的同时，仍面临着严峻的形势。契丹不断侵扰幽州，兵锋直逼河北。潞州守将李继韬叛附后梁，梁将董璋急攻泽州，意图吞并昭义镇，直接威胁后唐西都太原的安全。李存勖为了扭转战局，决定趁梁军东面防守空虚之机，出兵奇袭郓州，以切断梁军右翼，再伺机进图汴州。
同光元年闰四月，李存勖命李嗣源率五千步骑，连夜冒雨渡河，一举袭破郓州。朱友贞听闻郓州失守，命王彦章率军阻止唐军西进。李存勖命朱守殷严守德胜，自率亲军进屯澶州。
五月，王彦章出兵杨村渡，攻克德胜南城，继而顺河东下，攻打杨刘城。他打算先隔断河北唐军与郓州的联系，再图收复郓州。而李存勖则命朱守殷放弃德胜北城，装载军需器械浮河而下，协助李周固守杨刘城。两军各自沿河一岸疾进，边行边战，互有胜负。不久，王彦章进抵杨刘城下，挥军强攻，昼夜不息，并以巨舰九艘横亘河津，阻拦唐军增援。他屡攻不克，只得退屯城南，筑垒连营，以阻击唐军渡河。
六月，李存勖亲临杨刘，一面命唐军出营挑战，牵制梁军兵力，一面命谋臣郭崇韬领兵奔赴博州，在黄河东岸修筑新城，以接应郓州唐军。王彦章率军急攻博州新城，还用十余艘巨舰置于黄河中流配合作战。郭崇韬据城坚守，李存勖亦率军自杨刘增援。王彦章只得撤军，退保邹家口。李存勖与郓州李嗣源重新恢复了联系。七月，王彦章复攻杨刘，再次被唐军击败，遂撤师西归，退保杨村，不久便被召回汴州。段凝接任主帅。
八月，朱友贞部署四路反击：命段凝攻澶州、董璋攻太原、霍彦威攻镇州、王彦章攻郓州，打算在十月向后唐发动总攻，但因兵力分散，造成汴州防守空虚。他还命梁军掘开滑州南面的黄河大堤，以阻止唐军进攻汴州，但同时也将梁军主力阻隔在决河以北。九月，梁将康延孝投降后唐，将后梁军情尽数告知李存勖，建议唐军趁虚袭取汴州。而李嗣源则在郓州附近大败王彦章，俘获梁军将校三百余人，迫使梁军退保中都。
十月，李存勖自杨刘渡河，进抵郓州，并以李嗣源为前锋，攻破中都，俘杀王彦章。当时，诸将都认为应先攻占兖州等地，再乘机而动。李嗣源则坚持趁虚袭汴的战略。李存勖命李嗣源率前军倍道兼程，向汴州进发。是月初九日，李嗣源抵达汴州，挥军攻城。朱友贞自杀，梁将王瓒开城投降。李存勖于同日抵达，由大梁门进入汴州，后梁正式灭亡。
梁晋争霸期间，南方还存在很多割据政权。其中前蜀据有三川，定都于成都，其国主称皇帝，与后梁分庭抗礼。后主王衍在位时，奢侈**，大兴土木，委政于宦官、狎客，纵容太后、太妃卖官鬻爵，致使朝政败坏，贪腐成风。他还在国内四处巡游，强制沿途州县gongying食宿，百姓苦不堪言。后唐灭梁，威震天下，岐国、楚国、吴越国、闽国、南平国等割据政权纷纷入贡称藩，前蜀却不肯臣服。李存勖便有意讨平前蜀。
同光二年，客省使李严出使前蜀，趁机刺探蜀中虚实，他归国后极力主张伐蜀，称蜀国已有亡国之象，更坚定了李存勖出兵灭蜀的决心。当时，前蜀为了防御后唐，在两国边界驻有重兵。同年八月，李存勖又遣使者李彦稠入川，表示要与蜀国修好，以此麻痹王衍。王衍信以为真，派翰林学士欧阳彬为唐蜀通好使，出使后唐，同时还撤除了边界守备。
同光三年九月，李存勖以魏王李继岌为主帅，统领六万大军，征讨前蜀。李继岌年幼，军务皆有副手郭崇韬决断。唐军以康延孝、李严为前锋，连克威武城、凤州、兴州等地，缴获大批粮草。
而与此同时，王衍仍在国内巡游作乐，到达利州时方知唐军来犯。他急忙组织三万兵马迎战，却被唐军击溃于三泉。前蜀各处藩镇纷纷来降，王衍仓皇逃回成都。
是年十一月，前蜀中书令王宗弼发动政变，囚禁王衍、后妃及诸王，自称西川兵马留后。他以王衍的名义邀请李严到成都，商谈投降事宜。李严驰入成都，抚慰前蜀官吏、百姓，命蜀军撤去成都的军事防备。不久，李继岌率大军进抵成都。王衍率百官出城拜降，前蜀正式灭亡。南方诸国皆惊惧不已。
同光四年二月，魏博戍卒在贝州哗变，推裨将赵在礼为首领，攻入魏州。邢州、沧州也相继发生兵变，河北大乱。元行钦带兵进讨，但却连连失利。李存勖本欲亲征，被宰臣劝阻，只得起用李嗣源，让其率侍卫亲军北上平叛。李嗣源在魏州城下遇到亲军哗变，被劫持入城，与叛军合势。他本无反意，但迫于内外形势，又无以自明，只得率变兵南下。
三月，李存勖亲自率军东征，欲坐镇汴州指挥平叛。但李嗣源已抢先占据汴州，得到大批唐军将领拥戴。李存勖知道局势已不可挽回，行至万胜镇便下令回师，仓皇返回洛阳。他再三抚慰士卒，许以厚赏，但已为时太晚。士卒均不感皇帝恩德，沿途逃散过半。当时，李继岌已率征蜀大军班师，途中因平定后军康延孝叛乱，被耽误了归程。
四月，李存勖决定前往汜水关，与李继岌会合，再联兵进剿李嗣源。他命扈从军兵候于宫门外，自己在内殿进食。从马直指挥使郭从谦突然发动叛乱，率所部攻入兴教门。李存勖亲率宿卫出战，杀死数百乱军，最终被流矢射中，死于绛霄殿，时年四十三岁。
伶人善友将乐器覆盖在李存勖身上，纵火焚尸。李继岌军至渭南，因部属溃散，被迫自缢而死。征蜀大军则在副使任圜的率领下，归附李嗣源。是月，李嗣源进入洛阳，在李存勖灵前称帝，史称后唐明宗。
七月，李嗣源将李存勖葬入雍陵，上庙号庄宗，追谥为光圣神闵孝皇帝。
