此时，唐高宗召刘仁愿、孙仁师回朝，令刘仁轨领兵镇守百济。百济经过多年的战乱，“合境凋残，僵尸相属”。
为此，刘仁轨采取一系列措施，来安定民心，恢复社会秩序，掩埋骸骨，登记户口，任命官长，治理村落，修路架桥，修补堤堰，恢复陂塘，督促百姓种田养蚕，赈济百姓，赡养孤老。很快便医治了战争所带来的创伤，使百姓安居乐业起来。然后刘仁轨又屯田积粮，训练士卒，做好攻打高句丽的准备。
刘仁愿回到京城后，唐高宗问道：“卿在海东，前后奏请，皆合事宜，而雅有文理。卿本武将，何得然也？”
刘仁愿据实回答说：“刘仁轨之词，非臣所及也。”
唐高宗闻后非常高兴，给刘仁轨晋升六级官阶，正式任命为带方州刺史，并为他在长安建第，厚赏家属。
刘仁轨留守百济，在暂时放下军事领导权的同时，很快就发挥了自己在政治上的见底，他首先发现唐军就存在着许多问题，如将士思归、士气低落、军队的战斗力和后勤保障也非常差。经过一段时间细致的调查，刘仁轨找到了原因，然后于麟德元年十月初六上书唐高宗：
“臣蒙陛下曲垂天奖，弃瑕录用，授之刺举，又加连率。材轻职重，忧责更深，常思报效，冀酬万一，智力浅短，淹滞无成。久在海外，每从征役，军旅之事，实有所闻。具状封奏，伏愿详察。臣看见在兵募，手脚沉重者多，勇健奋发者少，兼有老弱，衣服单寒，唯望西归，无心展效。臣问：‘往在海西，见百姓人人投募，争欲征行，乃有不用官物，请自办衣粮，投名义征。何因今日募兵，如此伫弱？’皆报臣云：‘今日官府，与往日不同，人心又别。贞观、永徽年中，东西征役，身死王事者，并蒙敕使吊祭，追赠官职，亦有回亡者官爵与其子弟。从显庆五年以后，征役身死，更不借问。往前渡辽海者，即得一转勋官；从显庆五年以后，频经渡海，不被记录。州县发遣兵募，人身少壮、家有钱财、参逐官府者，东西藏避，并即得脱；无钱参逐者，虽是老弱，推背即来。显庆五年，破百济勋，及向平壤苦战勋，当时军将号令，并言与高官重赏，百方购募，无种不道。洎到西岸，唯闻枷锁推禁，夺赐破勋，州县追呼，求住不得，公私困弊，不可言尽。发海西之日，已有自害逃走，非独海外始逃。又为征役，蒙授勋级，将为荣宠，频年征役，唯取勋官，牵挽辛苦，与白丁无别。百姓不愿征行，特由于此。’陛下再兴兵马，平定百济，留兵镇守，经略高丽。百姓有如此议论，若为成就功业？臣闻琴瑟不调，改而更张，布政施化，随时取适。自非重赏明罚，何以成功？臣又问：‘见在兵募，旧留镇五年，尚得支济；尔等始经一年，何因如此单露？’并报臣道：‘发家来日，唯遣作一年装束，自从离家，已经二年。在朝阳瓮津，又遣来去运粮，涉海遭风，多有漂失。’臣勘责见在兵募，衣裳单露，不堪度冬者，给大军还日所留衣裳，且得一冬充事。来年秋后，更无准拟。陛下若欲殄灭高丽，不可弃百济土地。余丰在北，余勇在南，百济、高丽，旧相党援，倭人虽远，亦相影响，若无兵马，还成一国。既须镇压，又置屯田，事藉兵士，同心同德。兵士既有此议，不可胶柱因循，须还其渡海官勋及平百济向平壤功效。除此之外，更相褒赏，明敕慰劳，以起兵募之心。若依今日以前布置，臣恐师老且疲，无所成就。臣又见晋代平吴，史籍具载。内有武帝、张华，外有羊祜、杜预，筹谋策画，经纬咨询。王浚之徒，折冲万里，楼船战舰，已到石头。贾充、王浑之辈，犹欲斩张华以谢天下。武帝报云：‘平吴之计，出自朕意，张华同朕见耳，非其本心。’是非不同，乖乱如此。平吴之后，犹欲苦绳王浚，赖武帝拥护，始得保全。不逢武帝圣明，王浚不存首领。臣每读其书，未尝不抚心长叹。伏惟陛下既得百济，欲取高丽，须外内同心，上下齐奋，举无遗策，始可成功。百姓既有此议，更宜改调。臣恐是逆耳之事，无人为陛下尽言。自顾老病日侵，残生讵几？奄忽长逝，衔恨九泉，所以披露肝胆，昧死闻奏。”
刘仁轨在文中陈述了唐军现在招募兵役中存在的问题，并详细分析了其中的利弊。认为府兵制和临时募兵制都不能适应国家的军事需要，如果突然发生战争，大唐将是没有兵备的国家，一蹴而倒的危险是存在的。
唐高宗见到奏章后，非常重视，立即派刘仁愿率兵渡海，接替刘仁轨及所部回国。但刘仁轨却不同意立即回国，并说明了自己的理由，他说：“国家悬军海外，欲以经略高句丽，其事非易。今收获未毕，而军吏与士卒一时代去，军将又归。夷人新服，众心未安，必将生变。不如且留旧兵，渐令收获，办具资粮，节级遣还；军将且留镇抚，未可还也。”
但刘仁愿却说：“吾前还海西，大遭谗谤，云吾多留兵众，谋据海东，几不免祸。今日唯知准敕，岂敢擅有所为！”
刘仁轨气愤地说：“人臣苟利于国，知无不为，岂恤其私！”
随后，刘仁轨再次上表陈述自己的理由，肯请留下继续镇守百济，并请求任命扶余隆为熊津都督，招抚其众。这些都得到了唐高宗的认可。
刘仁轨不单单在政治，军事上颇有见地，而且还为人刚正，常常犯言直谏，在唐高宗后期，武则天操纵朝政。弘道元年十二月，唐高宗病卒，武则天亲政。刘仁轨做为前朝元老，被加授特进。弘道元年十二月二十一日，刘仁轨再次出任尚书左仆射、同中书门下三品。
光宅元年二月初八，武则天废皇太孙李重照为平民，令刘仁轨专门主管西京留守事务。并写信给刘仁轨说：“昔汉以关中事委萧何，今托公亦犹是矣。”
刘仁轨见武则天临朝后，独断专行，于是便以年老体衰为由进行推辞。同时还陈述汉朝吕后祸败的事实，以此规谏对武则天。武则天见是刘仁轨规劝自己，知他年老体衰，不会有太大作为，便派秘书监武承嗣去抚慰他，并说：“今日以皇帝谅暗不言，眇身且代亲政。远劳劝诫，复表辞衰疾，怪望既多，徊徨失据。又云‘吕后见嗤于后代，禄、产贻祸于汉朝’，引喻良深，愧慰交集。公忠贞之操，终始不渝；劲直之风，古今罕比。初闻此语，能不罔然；静而思之，是为龟镜。且端揆之任，仪刑百辟，况公先朝旧德，遐迩具瞻。愿以匡救为怀，无以暮年致请。”
不但没有责备刘仁轨，不久，还将刘仁轨的爵位进封到了郡公。