"看来你与教书先生有缘呀。"邓小平理解自己战友为军分忧的赤子之心，也熟悉他"建军先建校"、"治军先治校"的主张，只好苦笑一声表示同意。
     刘伯承毅然提笔，给中央写信，请求辞去中共中央西南局第二书记、西南军政委员会主席的职务，去参加陆大的建设。他写道："要建设一支现代化的军队，最难的是干部的培养，而培养干部最难的又是高级干部的培养。我愿意辞去在西南担任的一切行政长官的职务，去办一所军事学校。战争已经结束了，我年龄这么大了，还是让我去办学校吧！"毛泽东为刘伯承的赤诚所感动，也认为这位军事理论和军事经验兼长的老帅是陆大创办者的最佳人选，遂亲自复信，让他把西南的行政工作移交给邓小平，尽快到北京领导军校的筹建工作。
     就这样，亲密合作了13年的刘邓终于分开了。陆大原定设在北京。刘伯承考虑为节省财力，建议充分利用原国民党陆军大学的校舍，遂定址于南京，正式名称为南京军事学院。
    经过半年筹备，学院正式开学，首批758名学员绝大多数都是师级以上年轻干部。
     这些将领都是令敌军闻名丧胆的英雄、功臣。可俗话说的好，即便是雄狮，身上也会有虱子。他们大多出身农民，又长期生活在游击环境里，自由惯了，散漫惯了，不拘小节惯了。于是，各种奇怪的现象都出来了，有的学员无故不出操、不上课，想来就来，想走就走；有的学员上课时翘二郎腿，回答老师的提问懒得起来；有的学员开会时不注意军纪，敞胸露怀，双手在身上搓泥搔痒，更有甚者，有的索性把脚放在椅子上，脱掉鞋子，用手抠脚丫子。
     南京军事学院学生自由散漫的名声一直传到北京。毛泽东十分生气，提出："游击队不可冒‘油‘，野战军不可撒‘野‘"。刘伯承决定整肃校风。他在全院师生大会上说："有的人自由主义，违犯纪律，国防部、毛主席都知道了，真是‘搞臭了南北二京‘，这叫着‘光着腚推磨盘--转着圈丢人‘"。刘伯承要求从基本科目做起，颁布实行我军三大条令--《内务条令》、《队列条令》、《纪律条令》，很快使学院的风气焕然一新。在此后的5年间，刘伯承主持编写、编译和翻译军事、政治、外语等各类教材数百种，从陆、海、空三军到炮兵、工程兵、通讯兵、装甲兵等技术兵种专业，从战略、战役、战术的现编概则到集团军、军、师、团、营的设定作业，应有尽有。学院也由初办时的4个系发展到12个系，学员人数由758人增加到3000余人。南京军事学院成为人民解放军名副其实的最高学府和将军的摇篮。