李世民的心腹只有长孙无忌还留在府中，他与舅舅雍州治中高士廉、左候车骑将军三水人侯君集及尉迟敬德等人，日夜劝说李世民诛杀李建成、李元吉。李世民犹豫不决，向灵州大都督李靖询问对策，李靖推辞不答；又问行军总管李世积，李世积也推辞不答；李世民因此更加敬重二人。
恰逢突厥郁射设率领数万骑兵屯驻黄河以南，侵入边塞，包围乌城，李建成推荐李元吉代替李世民统领各路军队北征；高祖批准了，命令李元吉统领右武卫大将军李艺、天纪将军张瑾等人援救乌城。李元吉请求让尉迟敬德、程知节、段志玄及秦府右三统军秦叔宝等人随行，挑选秦王帐下的精锐士兵来补充自己的军队。率更丞王晊秘密告知李世民：“太子对齐王说：‘如今你得到秦王的骁将精兵，拥有数万之众，我与秦王在昆明池为你饯行，让壮士在帐幕下将他拉杀，上奏说他突然死亡，皇上应该不会不信。我会让人进言劝说，让皇上把国家大事交给我。尉迟敬德等人既然到了你的手中，就应该全部活埋，谁敢不服！’”李世民把王晊的话告诉长孙无忌等人，无忌等人劝说李世民先动手除掉他们。李世民叹息说：“骨肉相残，是古今最大的恶行。我确实知道祸患就在眼前，但想等他们先发动，然后再以正义之名讨伐他们，不也可以吗！”尉迟敬德说：“人之常情，谁不爱惜生命！如今众人以死侍奉大王，这是上天授予的机会。祸患即将发生，而大王还安然不以为忧，大王纵然轻视自己，又怎么对得起宗庙社稷呢！大王如果不听我的话，我将逃到荒野之中，不能留在大王身边，白白送死！”长孙无忌说：“不听尉迟敬德的话，事情现在就会失败。尉迟敬德等人必定不会再为大王所有，我也会跟随他们离开，不能再侍奉大王了！”李世民说：“我所说的也并非全不可取，你们再想想别的办法。”尉迟敬德说：“大王如今处事犹豫不决，这是不智；面临危难不能决断，这是不勇。况且大王平时蓄养的勇士八百多人，现在在外的已经进入宫中，身披铠甲、手持兵器，形势已经形成，大王还能罢休吗！”
李世民询问府中僚属，众人都说：“齐王凶狠暴戾，终究不会侍奉他的兄长。近来听说护军薛实曾对齐王说：‘大王的名字，合起来是“唐”字，大王终究会主持大唐的祭祀。’齐王高兴地说：‘只要除掉秦王，夺取东宫就易如反掌。’他与太子图谋作乱还未成功，就已经有了夺取太子之位的心思。作乱的野心没有满足的时候，什么事做不出来！如果让他们二人得志，恐怕天下就不再是大唐的了。以大王的贤能，除掉他们就像拾取地上的草芥一样容易，为什么要固守平民的节操，而忘记国家的大计呢！”李世民仍未决断，众人说：“大王认为舜是怎样的人？”李世民说：“是圣人。”众人说：“如果舜挖井时不出来，就会成为井中的泥土；粉刷粮仓时不下来，就会成为粮仓上的灰烬，怎么能恩泽天下、被后世效仿呢！所以，父亲用小杖打就接受，用大杖打就逃走，大概是因为要保全更大的利益。”李世民下令占卜，幕僚张公谨从外面进来，拿起龟甲扔在地上，说：“占卜是为了决断疑惑；如今事情已经没有疑惑，还占卜什么呢！如果占卜结果不吉利，难道就能罢休吗！”于是定下计策。
李世民让长孙无忌秘密召见房玄龄等人，房玄龄等人说：“皇上下诏不准我们再侍奉大王；如今如果私下拜见，必定会被处死，不敢遵奉命令。”李世民大怒，对尉迟敬德说：“房玄龄、杜如晦难道背叛我了吗！”取下自己佩戴的刀交给尉迟敬德说：“你去看看，如果他们没有来的意思，就砍下他们的首级来见我。”尉迟敬德前往，与长孙无忌一起告知他们：“大王已经下定决心，你们应该尽快入宫共同谋划。我们四人，不能一起走在路上。”于是让房玄龄、杜如晦穿上道士服，与长孙无忌一同入宫，尉迟敬德从另一条路也赶到了。
己未日，太白星再次白天出现。傅奕秘密上奏：“太白星出现在秦地的分野，秦王应当拥有天下。”高祖把奏表交给李世民。于是李