有一天，李世民问他：“你记的那些东西，我能看看吗？”
他回答说：“今天之所以设立我来记录这些，就是充当古时左右史官的作用，善恶必记，以使皇帝不犯过错。我还没听说过做皇帝的自己要看这些东西呢。”
李世民又问：“我如果有不好的地方，你一定要记下来吗？”他回答得十分干脆：“臣的职责承载在笔上，皇上您的言行我是一定会记录的。”
贞观十八年，李世民想亲征高丽，平定辽东，褚遂良鉴于隋亡的历史教训，举谏说，不可远征，以防不测。李世民不听，褚遂良就再次上疏，认为皇帝亲征不合情理：“臣把史籍都翻了一遍，从古至今，当皇帝的还没有亲自去打辽东的，派大臣去打，倒是有此先例”，所以“派两名勇将，发兵四五万”就可以了。
然而，李世民一意孤行，结果损失惨重，以失败告终。在回师途中，李世民对劳师远征深表后悔，回来后提拔褚遂良为黄门侍郎，参与朝政。后来，又任命他为中书令，褚遂良成了唐代政坛上的重臣。
贞观二十三年，病重的李世民把长孙无忌与褚遂良召入卧室，对他们说：“当年汉武帝托孤于霍光，刘备托孤于诸葛亮，我以后的事，都托付给你们了。”又转头对太子李治说：“有长孙无忌和褚遂良在，国家之事，我就放心了。”
褚遂良成为托孤之臣，是因为他是李治最强有力的维护者。前太子李承乾因罪被废黜，朝臣多认为九皇子晋王李治仁厚，是太子的不二人选，但唐太宗更喜欢四皇子魏王李泰。有一天，他对近臣说：“昨天投入我的怀抱说：'我到今天才得以成为陛下最亲近的儿子，此为我再生之日。我只有一个儿子，百年之后，一定为陛下杀了他，把王位传给晋王。’父子的伦理，原应当是天性，我见他这样，非常垂怜他。”
大家听了，面面相觑，都没说什么，唯独褚遂良走上前说：“您也是君王。哪有执掌政权的君王，杀死自己的儿子，传位给兄弟的道理呢？”唐太宗幡然醒悟，当天立李治为皇太子。
李治即位后，对褚遂良非常感激，封其为河南县公，第二年又升为河南郡公。永徽四年公元六百五十三年，褚遂良被拜为尚书右仆射执掌朝政大权。然而李治做梦也想不到，因为立皇后的问题，褚遂良成了他最大的绊脚石。
李治想要废黜王皇后，册立武则天为皇后。有一天，他传召长孙无忌、褚遂良、李勣和于志宁四位重臣入内殿开御前会议。这些人事前得到消息，商议如何劝谏，但谁也不想放这头一炮，褚遂良主动请缨说：“我来吧。我奉先帝遗诏辅佐陛下，如果不尽愚忠，无脸去见先帝。”
李治一开口，就把废后的理由提得很充分：“罪莫大于绝嗣，皇后久未生育，而武昭仪生有皇子，众位卿家意下如何？”没等别人开口，褚遂良第一个站出来说：“皇后系出名门，也是先帝为陛下所娶。先帝去世之际，曾拉着微臣的手说：朕现在将佳儿和佳妇托付给卿。当时陛下也在场，想必听得很清楚。臣没听说皇后犯了什么过错，岂可轻言废立之事！臣绝不会为了曲意奉承陛下而违背先帝的遗命。”