承乾既废，按照皇位继承法，最有资格做太子的是长孙皇后所生的魏王李泰和晋王李治。朝臣的意见分为两派，宰相岑文本、刘洎和大臣崔仁师等都劝立李泰，长孙无忌和大臣褚遂良则坚主立李治。
主立李泰的岑文本和刘洎都来自江陵，先世虽有官位，但不很显赫，家境出身近乎寒族一类。崔仁师虽是博陵大姓，可是父祖都没有功名。出身于山东寒士的马周因为和刘洎关系密切，态度上也倾向于李泰一边。至于以长孙无忌为首的主立李治的一派，几乎都是关陇军事贵族集团的代表人物。褚遂良是长孙无忌最得力的支持者，他来自江南贵姓高门，与关陇军事贵族有相通之处。这次决定皇位继承权的斗争，实际上也是普通地主与关陇军事贵族集团之间的斗争。
长孙无忌虽然高居外戚和首相的地位，但他知道房玄龄手中握着至关重要的一票。一天，长孙无忌破天荒地到房玄龄家里与他商量：“魏王在朝中树立了党羽，一旦继位，则文本、刘洎等人势将受到倚重，你我只能告老还乡了。”房玄龄并不怕告老还乡，他知道长孙无忌是看李治软弱无能，继位之后很容易为他所操纵，所以才这般替他争取。那天房玄龄只说了一句话：“想必圣上自有主张。”
有一天，太宗正与武才人在西苑赏玩风荷，长孙无忌陪着一位少年进来。只见那少年单薄消瘦，神色迟疑，一双眼睛只管瞅着地面，似乎连抬眼平视也不敢。他就是晋王李治。李治虽然贵为皇子，却不及李泰的饱知经史，也缺少承乾的气派风度。他既无主见，也无特长，只知跟一班美人成天嬉戏，像个永远也长不大的孩子。
太宗见李治哭丧着脸，就问：“我儿这是怎么了？”那李治本来眼泪就在眼眶里转着，经父皇一问，索性跪在地上大哭起来，诉道：“儿虽无能无才，却也不会作出有悖天礼之事，魏王何故要吓我？”
长孙无忌便告诉太宗说，是魏王李泰私下里欺负李治，吓唬他“你平日跟承乾很亲密，如今承乾伏诛，你也不会有好结果”，李治胆小，惶惶不可终日，所以有此状。
于是一日太宗在两仪殿听政结束时，群臣已经走出大殿，太宗却突然把房玄龄、长孙无忌等几位重臣叫住，神情异常地说道：“我三个儿子和一个弟弟的所作所为竟然如此，真让我心灰意冷了。”言罢扑倒在床上。房玄龄等人抢着上前抱扶，不料太宗拔出佩刀，直朝自己胸前刺去，惊得几个人惊慌大叫，还是褚遂良眼疾手快，急忙把刀子夺下，交给李治。
房玄龄搀起太宗，说：“陛下何以这等伤情，说出来也好让臣等替陛下分忧啊？”
太宗把歪扭了的皇冠摘下，长吁短叹好一阵子才说：“朕想立晋王为太子，卿等意下如何？”
房玄龄一怔，便明白太宗是在试探。但没等他表态，长孙无忌一旁急忙说道：“陛下明断！”不由分说便把太宗之言当做诏旨，命人录下，并大声说道：“谨奉诏，如有异议者，我必杀之！”
太宗此时已在床边坐端正了，遂让李治跪在面前，抽搐着脸说：“你舅舅答应让你做太子了，还不快快拜谢？”
李治慌得不行，恍惚中纳头逐一拜过。
见房玄龄沉默不语，太宗又问道：“你们已经同意了，但不知朝中其他大臣会如何看？”
长孙无忌抢道：“晋王仁孝，人们早就归心于他了。请陛下召见群臣，试问一二，如果不像我说的，我甘当死罪。”
因有与长孙无忌、房玄龄等人商议的结果在先，太宗驾临太极殿听政，召文武六品以上官员前来朝参。太宗说：“承乾悖逆，魏王泰也一样凶险，朕想从诸子中挑选一个作为储君，你们看谁能胜任？”
百官都欢呼道：“晋王仁厚，当为太子！”
当日，魏王李泰率领百余骑兵到永安门，太宗敕令守门将士把李泰带到肃章门，幽禁在太极宫北面的内苑中，以防引起新的事端。
四月丙戌日，太宗下诏立十五岁的晋王李治为皇太子，大赦天下，并赐五品以上文武百官的长子晋爵一级，百姓八十岁以上的老人赐给粟帛，聚会饮酒三天。召特进萧瑀为太子太保，李世勋为太子府事，同中书门下三品。不日又往太庙谢承乾之罪，降封魏王李泰为东莱郡王。
但太宗毕竟对李治的懦弱深感不安。这日上朝，太宗对侍臣说：“自古创业的君王，到了子孙辈上往往多乱，这是为什么呢？”
房玄龄躬身言道：“这是因为幼主生长在深宫，从小安居富贵，未尝识得人间情伪，全然不懂治国安危，所以为政多乱。”
太宗闻之不悦，望着房玄龄说：“听你的意思，是要推过错给君主了，朕则认为应当归咎于众臣。功臣的子弟们多半无才无德，借祖父资荫做了大官，德义不修，奢纵是好。君王本来就幼弱无知，大臣们又不才，颠而不扶，岂能不乱？隋炀帝因为宇文述在藩之功，于是擢他的儿子宇文化及于高位，结果宇文化及不思报效皇恩，反倒弑君行逆。难道这不是臣下之过么？朕说这些话，是想让你们诫勉自己的子弟，使他们避免过错，这是国家的庆幸啊？”
房玄龄听了，知道皇上这是有所指，遂答道：“圣贤有言，子不教，父之过。为臣者不能只是自己懂得皇恩，还应当让子孙懂得怎样世代报答，这才算为臣者尽到责任了。”
太宗又说：“宇文化及和杨玄感，都是受到隋朝厚恩的大臣的子孙，最后却都造反了，这是何故？”
岑文本答道：“只有君子才能怀德荷恩，而杨玄感、宇文化及之流都是小人。所以古人都贵君子而贱小人。”
太宗认为岑文本说得对，一面让房玄龄等人清除承乾和李泰的余党，一面派重臣作为太子的辅弼。遂以长孙无忌为太子太师，以房玄龄为太子太傅，仍执门下省事、监修国史。又以萧瑀为太子太保，李世勋为太子府詹事，左卫大将军李大亮兼东宫右卫率，前太子府詹事于志宁、中书侍郎马周为太子左庶子，吏部侍郎苏勖、中书舍人高季辅为太子右庶子，刑部侍郎张行成为太子府少詹事，谏议大夫褚遂良为太子宾客。这样，朝中所有重臣几乎都成为东宫的辅佐了。
太宗又面朝房玄龄和长孙无忌说：“三师是专门以道德育人的人，如果做太子老师的人体位卑贱，太子就无法取其准则了。”于是诏令撰太子接三师仪注。其时，朝中以长孙无忌为司徒，房玄龄为司空，暂无司马，是为“三公”。太宗在诏书中明文规定：每临朝参，太子必须出殿门迎接三师，先给三师行拜礼，然后三师再答拜；每进一门，必须让三师先入；三师落座，太子才能入座。写给三师的书牒信函，抬头要称“惶恐”，后边署名要写上“惶恐再拜”。
为确保新太子李治健康成长，将来能够顺利地继承大统，太宗的确是花费了不少心血。
