这样的事情几次三番下来，李渊就对李世民开始不满了。这个时候，张婕妤她们使出了最后一招，对李渊说：“秦王记恨我等。一旦陛下驾崩秦王登基，我们母子必不被秦王所容。太子李建成仁慈孝顺，如果他继位，我们母子的性命就可以保全。”李渊听了顿感大有道理，也就偏向于李建成而厌恶李世民了。

    除了拉拢李渊身边的嫔妃吹枕边风之外，李建成还利用手中的权力对李世民身边的羽翼加以剪除，分散和瓦解天策府的将领和兵力。凡有调兵遣将派防出征的机会，李建成都要派给秦王府上的将领，还屡设计谋，让秦王府的将军调出外任。正史对此有记载，民间的野史传说就更多了。《隋唐演义》就是一部精彩的文学作品，其影响虽不及《三国演义》，但在中国民间也流传甚广。建成与世民斗法，按正统的伦理道德观点，应该是世民理亏，是他以下犯上，可文学作品中把建成和元吉描述成了坏人，屡屡设计陷害李世民以及他手下将领这些“好人”，如戏剧舞台上的《罗成叫关》，就描写齐王李元吉用卑鄙手段害死大将罗成。

    史书上还记载了几件事：李建成曾经邀请李世民喝酒，却在酒中下了毒药。但不知道是李建成的毒药不好还是李世民的身体够强壮，他在灌了许多解毒药之后竟然保住了性命。一计不成又生一计。李建成说服李渊出去打猎，几个王子自然也一起陪同。李建成特意给李世民安排了一匹性情暴烈的马，希望能够把他摔死。但李世民是在战场上厮杀出来的，骑术精湛，因此虽然被马摔伤，却并没有什么大碍。李建成的阴谋再次失败了。

    李渊当然也察觉到了这对兄弟之间的争斗。然而，他虽然偏袒李建成，但对李世民也无可奈何。一方面，毕竟是自己的儿子，手心手背都是肉，另一方面，李世民能征善战，朝中离他不得。在这种情况下，他居然又出一昏招，竟然打算仿效汉朝梁孝王的故事，让李建成、李世民兄弟俩分治长安和洛阳，也就是说，他准备将国家一分两半各占一边。这下子将李建成吓了个够呛，他知道真要与李世民凭武力来争天下，自己肯定不是对手，于是赶紧让李渊打消了这个主意。

    当然，李世民也觉察到了建成的意图，他想尽办法保护自己的羽翼，并积极储备力量。他曾派心腹领兵一千多人驻守洛阳，又派人带着金银财宝拉拢山东豪杰，引为外援。同时，他也采取收买的手段拉拢李建成手下的人，争取到了一些关键人物，这其中就有负责防守玄武门的常何，常何的官阶虽然不高，但却是至关重要的角色，甚至可以说常何的倒戈直接导致了建成的失败。

    这对兄弟之间的争斗，是大唐开国后政治舞台上两大势力的角逐，孰是孰非，很难从道德伦理上说清楚。以李世民之天资，他就没有对皇位动过心思？这似乎不太可能，况且李渊也曾有过表示，所以他对建成太子地位的威胁是显而易见的。太子建成为了保住自己的地位，可能采取了许多阴谋手段，但或是运气天数使然，或是还不够周密狠辣，总之并没有除掉世民。而李世民玄武门反戈一击，即置建成元吉于死地。

    在持续数年的政治斗争中，大体上来说，是李建成处于攻势，李世民处于守势，但基本上还是僵局的状态。僵局的打破是在武德九年，也就是公元626年。

    当时突厥人入侵，围住了乌城。一般情况下来说，应该是由李世民领军出征讨伐突厥人的，但李建成却推荐了他的党羽齐王李元吉领兵。原来他是有预谋的。他准备在李元吉领兵出征的时候，让效忠于李世民的大将如尉迟敬德、程知节、秦叔宝等人跟随出征，并将李世民帐下的精锐士卒也一并带出去。这样一来，李世民身边就没有了护卫。当李建成与李世民一起为李元吉饯行的时候，李建成就敢让人当场杀了李世民，并强逼李渊让出政权。同时，李元吉作为统兵大将，随时都可以找个借口杀掉尉迟敬德等人，永除后患。这招计谋不可谓不毒矣！然而，他的一个部下却被李世民收买了，将他的阴谋告诉了李世民。

    是年六月三日，秦王府戒备森严，李世民召集王府幕僚，召开紧急会议。被贬斥在外的房玄龄、杜如晦两人也应召假扮道士回到了秦王府。会议上，李世民开始还有些犹豫，怕骨肉相残的名声不好听：“骨肉相残，古今大恶。吾诚知祸在朝夕，欲俟其发，然后以义讨之，不亦可乎！”众幕僚和将领以为不可，以离去相挟，“逼迫”世民下定了最后之决心，并制定了周密的行动计划。

    当天晚上，李世民首先入宫拜见李渊，状告李建成、李元吉二人秽乱宫廷，并且说：“儿臣对于兄弟之情从未有过亏负，他们却想杀我，似乎是想为王世充、窦建德报仇。我冤枉而死，到了九泉之下，恐怕会被王世充之辈耻笑。”李世民说这话是很有意思的，其实就是在表功。那么他为什么这么说呢？是因为他想让李渊召李建成、李元吉进宫好下手除掉他们，但他状告李建成、李元吉秽乱宫廷并没有什么证据，李渊可能置之不理反而会大骂他一通，但扯上自己的功劳，李渊就得安抚他，也就必然会把那两个人召进宫来双方对质。果然，李渊愣了半天对他说：“明天就追究这件事情，你明天早上再来吧。”

    然而还没有等到第二天早上，李世民就带着一千多人埋伏在了玄武门内外，等待着李建成、李元吉二人奉诏而来。其实这个时候宫内的张婕妤已经约略听到了一些消息，派人告诉了李建成，李建成就和李元吉商议是否听从诏令入宫。李元吉觉得不该入宫，李建成却认为自己身边人马齐备，再加上负责玄武门守卫的将领常何是自己的人，应该没有什么大碍，于是就决定入宫。他却不知道常何已经被李世民收买过去了。因此，当他带着人毫无戒备地进入玄武门去拜见李渊的时候，常何却很快就紧紧关闭了玄武门。建成等人便成为瓮中之鳖，即使外边的部属得知了消息，增援都来不及。

    建成和元吉来到临湖殿前时发现殿角有埋伏的士兵，心知有异，立即转身上马就往玄武门奔逃，但已经晚了。这时，伏兵尽起，一番厮杀后，李世民亲手射杀了太子李建成，尉迟敬德射杀了齐王李元吉。太子和齐王的卫士也被赶杀殆尽。

    当太子的东宫和齐王府得到消息时，部分将领率领两千精兵赶赴玄武门。由于玄武门守将常何拒不开城门，士兵强行攻打。但由于门既高大，守得又顽强，所以久攻不下。在这危急时刻，尉迟敬德用长矛挑着李建成、李元吉的人头向太子的将士喊话道：“奉皇上的命令，在此诛杀太子和齐王，现在太子和齐王均已伏法，余者无罪。只要放下武器，不仅保证生命安全，愿意归附者一律保持原职不动。”

    太子的将士见到太子和齐王的头颅，无不呆若木鸡，大多数人弃戈投降，少部分人逃了出去。就这样，太子李建成和齐王李元吉的多次蓄谋化为泡影，在秦王李世民的有力一击之下，身首异处，灰飞烟灭了。  

    紧接着，李世民又怕李渊有什么异动，就派尉迟敬德以宿卫之名告知李渊此事并守在他身边。尉迟敬德披甲持矛而入，将正在“泛舟海池”的李渊吓了个够呛。李渊见事情已经变成这样，只好顺水推舟承认李建成叛逆，立李世民为太子，两个月后就将皇位让给了他。