李世民让长孙无忌秘密召见房玄龄等人，房玄龄等人回复说：“陛下有敕命，不许我们再侍奉秦王；如今若是私下拜见，一定会被判处死罪，不敢遵从您的吩咐。” 李世民大怒，对尉迟敬德说：“房玄龄、杜如晦难道要背叛我吗！” 取下自己佩戴的刀交给尉迟敬德，说：“你去看看他们，如果真的没有前来的心思，就砍下他们的首级来见我。” 尉迟敬德前往，与长孙无忌一起晓谕他们说：“秦王已经下定决心，你们应当火速入宫共同谋划大事。我们四个人，不能成群结队地走在路中。” 于是让房玄龄、杜如晦换上道士的服装，和长孙无忌一同进入秦王府，尉迟敬德从另一条路也赶到了。
己未日，太白星再次在白昼出现。傅奕秘密上奏说：“太白星出现在秦地的分野上，秦王应当拥有天下。” 皇帝把这份奏表交给了李世民。于是李世民秘密上奏，揭发李建成、李元吉与后宫妃嫔淫乱，并且说：“我对兄弟没有丝毫亏欠，他们如今却想要杀死我，简直是为王世充、窦建德报仇。我如今含冤而死，永远离开父皇母后，魂魄归于地下，实在耻于见到这些乱臣贼子！” 皇帝看完奏表，十分惊愕，回复说：“明天我会亲自审问这件事，你应当早点入朝参见。”
庚申日，李世民率领长孙无忌等人入宫，在玄武门埋下伏兵。张婕妤暗中得知李世民上表的意图，派人骑马火速告知李建成。李建成召来李元吉商议对策，李元吉说：“应当统率东宫和齐王府的军队，借口生病不去上朝，静观形势变化。” 李建成说：“军队的防备已经很严密了，我应当和弟弟入朝参见，亲自探听消息。” 于是两人一同入宫，直奔玄武门。皇帝当时已经召见了裴寂、萧瑀、陈叔达等人，准备查验这件事。
李建成、李元吉走到临湖殿时，察觉到变故，立刻调转马头向东，想要返回东宫和齐王府。李世民跟在后面呼喊他们，李元吉拉开弓箭射击李世民，连续几次都没能将弓拉满，李世民则一箭射中李建成，将他杀死。尉迟敬德率领七十名骑兵随后赶到，他身边的人射中李元吉，李元吉坠落下马。李世民的马受惊奔入树林，被树枝挂住，李世民也摔下马，无法起身。李元吉迅速赶到，夺过李世民的弓，想要用弓弦勒死他，尉迟敬德策马奔来，大声呵斥李元吉。李元吉吓得转身就跑，想要逃到武德殿，尉迟敬德追上去一箭射死了他。翊卫车骑将军冯翊人冯立听说李建成死了，叹息说：“怎么能在太子生前蒙受他的恩德，太子死后却逃避他的祸患呢！” 于是和副护军薛万彻、屈咥直府左车骑万年人谢叔方率领东宫、齐王府的精锐士兵两千人，骑马直奔玄武门。张公谨力气很大，独自关闭宫门抵御他们，他们无法攻入。云麾将军敬君弘掌管皇宫的宿卫，屯驻在玄武门，他挺身而出准备出战，身边亲近的人劝阻他说：“事情的结果还不可预知，暂且慢慢观察事态变化，等到士兵集结完毕，列好阵型再出战也不晚。” 敬君弘不听，和中郎将吕世衡大声呼喊着冲了上去，最终都战死了。敬君弘，是敬显俊的曾孙。守门的士兵和薛万彻等人奋力交战了很久，薛万彻擂鼓呐喊，想要攻打秦王府，秦王府的将士们都十分恐惧；尉迟敬德提着李建成、李元吉的首级给他们看，东宫和齐王府的军队顿时溃散，薛万彻率领数十名骑兵逃入终南山。冯立杀死敬君弘后，对他的部下说：“这也足以稍微报答太子的恩德了！” 于是解散军队，逃到荒野中。
皇帝当时正在海池泛舟，李世民派尉迟敬德入宫担任宿卫，尉迟敬德身披铠甲、手持长矛，径直来到皇帝的面前。皇帝大为震惊，问道：“今天作乱的是谁？你到这里来做什么？” 尉迟敬德回答说：“秦王因为太子、齐王发动叛乱，起兵诛杀了他们，担心惊动陛下，所以派我前来担任宿卫。” 皇帝对裴寂等人说：“没想到今天竟然会发生这样的事情，该怎么办才好？” 萧瑀、陈叔达说：“李建成、李元吉本来就没有参与起兵反隋的谋划，又对天下没有功劳，他们嫉妒秦王功劳卓着、声望极高，共同策划奸邪的阴谋。如今秦王