秦王府的僚属都担忧恐惧，不知道该怎么办。行台考功郎中房玄龄对比部郎中长孙无忌说：“如今嫌隙已经形成，一旦祸患的机关暗中发动，不仅秦王府会化为灰烬，实际上也是国家的忧患；不如劝说秦王施行周公诛杀管叔、蔡叔那样的事情，来安定国家。存亡的关键，刻不容缓，就在今天了！” 长孙无忌说：“我怀有这个想法已经很久了，不敢说出口；如今你所说的话，正符合我的心意，我会谨慎地向秦王禀报。” 于是入宫向李世民进言。李世民召见房玄龄商议这件事，房玄龄说：“大王的功劳覆盖天地，应当继承大业；如今面临的忧患危险，正是上天的帮助，希望大王不要犹豫！” 于是与府属杜如晦一起劝说李世民诛杀李建成、李元吉。
李建成、李元吉因为秦王府有很多勇猛的将领，想要引诱他们为自己所用，秘密将一车金银器物赠送给左二副护军尉迟敬德，并且写信招抚他说：“希望能得到长者的眷顾，以加深平民之间的交情。” 尉迟敬德推辞说：“我尉迟敬德是出身贫寒的人，遭遇隋朝末年的战乱流离，长期沦陷在叛逆之地，罪该万死。秦王赐予我再生的恩德，如今又在秦王府任职，只应当以死相报；我对殿下没有功劳，不敢冒昧接受如此厚重的赏赐。如果私下与殿下结交，就是怀有二心，贪图利益而忘记忠诚，殿下又怎么会重用这样的人呢！” 李建成大怒，于是与他断绝来往。尉迟敬德将这件事告诉李世民，李世民说：“你的心意像山岳一样坚定，即使堆积的金银达到一斗，我也知道你不会动摇。他赠送的东西只管接受，有什么可嫌疑的呢！而且还能借此了解他的阴谋诡计，难道不是很好的计策吗！否则，祸患将会降临到你的身上。” 不久后，李元吉派壮士在夜里刺杀尉迟敬德，尉迟敬德得知后，敞开所有门户，安然躺在床上不动，刺客多次来到他的庭院，最终不敢进入。李元吉于是在皇帝面前诋毁尉迟敬德，将他关进诏狱审讯治罪，准备杀死他。李世民坚决请求赦免，尉迟敬德才得以幸免。李元吉又诋毁左一马军总管程知节，将他外放为康州刺史。程知节对李世民说：“大王的得力助手和亲信羽翼都快被剪除殆尽了，自身又怎么能长久呢！我程知节誓死不离开京城，希望大王早日下定决心。” 李元吉又用金银布帛引诱右二护军段志玄，段志玄没有顺从。李建成对李元吉说：“秦王府有谋略的士人，值得忌惮的只有房玄龄、杜如晦罢了。” 于是都在皇帝面前诋毁他们，将他们驱逐出秦王府。
李世民身边的心腹只有长孙无忌还留在府中，他与李世民的舅舅雍州治中高士廉、左候车骑将军三水人侯君集以及尉迟敬德等人，日夜劝说李世民诛杀李建成、李元吉。李世民犹豫不决，向灵州大都督李靖询问对策，李靖推辞不答；又向行军总管李世积询问，李世积也推辞不答；李世民因此更加敬重这两个人。
恰逢突厥郁射设率领数万骑兵驻扎在黄河以南，侵入边塞，包围乌城，李建成推荐李元吉代替李世民统领各路军队北征；皇帝听从了他的建议，命令李元吉统领右武卫大将军李艺、天纪将军张瑾等人救援乌城。李元吉请求让尉迟敬德、程知节、段志玄以及秦府右三统军秦叔宝等人与他一同前往，挑选秦王帐下的精锐士兵来补充李元吉的军队。率更丞王晊秘密报告李世民说：“太子对齐王说：‘如今你得到秦王的勇猛将领和精锐士兵，拥有数万兵力，我会与秦王在昆明池为你饯行，让壮士在帐幕下将他拉扯杀死，上奏说他突然死亡，皇上应该不会不相信。我会派人进言劝说，让皇上将国家大事托付给我。尉迟敬德等人既然落入你的手中，应当将他们全部活埋，谁敢不服！’” 李世民将王晊的话告诉长孙无忌等人，长孙无忌等人劝说李世民先采取行动除掉他们。李世民叹息说：“兄弟之间自相残杀，是古今以来最大的恶行。我确实知道祸患就在眼前，但想要等他们先发动叛乱，然后再以正义之名讨伐他们，不也可以吗！” 尉迟敬德说：“人之常情，谁不珍惜自己的生命！如今众人愿意以死侍奉大王，这是上天授予的机会。祸患的苗头已经显现，大王还安然不动，不为此担忧，大王即使轻视自己的生命，又怎么对得起宗庙社稷呢！大王如果不采纳我的建议，我将逃到山林湖泽之中，不能留在大王身边，白白遭受杀戮！” 长孙无忌说：“不听从尉迟敬德的话，事情现在就要失败了。尉迟敬德等人必定不会再为大王所用，我也会跟随他离开，不能再侍奉大王了！” 李世民说：“我所说的话也并非完全没有道理，你们再重新谋划一下。” 尉迟敬德说：“大王如今处理事情犹豫不决，这是不智慧的表现；面临危难而不能决断，这是不勇敢的表现。况且大王平时蓄养的八百多名勇士，现在已经进入宫中，身披铠甲，手持兵器，事态已经形成，大王怎么还能停止呢！”
李世民向秦王府的僚属询问意见，众人都说：“齐王凶狠暴戾，最终不会侍奉他的兄长。近来听说护军薛实曾经对齐王说：‘大王的名字，合起来就是 “唐” 字，大