山涛似乎没有立即接受司马炎的任命，以其母年老为由拒绝上任，恰逢母亲去世，山涛回归乡里。面对朝廷难解的矛盾，司马炎不顾山涛正遭母丧，决心"夺情"，于泰始十年再次下诏："'情在难夺，方今务殷，何得遂其志邪！其以涛为吏部尚书。'涛辞以丧病，章表恳切。"最终被迫上任，"逼迫诏命，自力就职"[29]。自山涛该年出任吏部尚书直到逝世，再也没有退下，即使升迁成仆射，也要"领吏部"，主管选举。
    吏部尚书的品级不高，但负责县级以上官员的任免，权力极大。山涛任吏部尚书后的八年时间里，与负责尚书台的贾充之间，形成了相对稳定的平衡局面。表面上看，山涛对礼法派采取了妥协态度：每次选用官员，首先征求尚书令（后为录书事）贾充的意见，然后将候选人名单密报司马炎审核，最后再公开提名诠选，而实际上是山涛的意志。尤其对要害部门官员的任免，山涛不向礼法派让步。《世说新语·政事》注引《晋诸公赞》曰：
    亮字长兴……为贾充所亲侍。山涛为左仆射领选。涛行业即与充异，自以为世祖所敬，选用之事，与充咨论，充每不得其所欲。好事者说充："宜授心腹人为吏部尚书，参同选举……，"充以为然，乃启亮公忠无私。涛以亮将与己异，又恐其协情不允，累启亮可为左丞相，非选官才。世祖不许。涛乃辞疾还家。亮在职果不能允，坐事免官。
    上述事件，应为争夺吏部郎。《世说新语·赏誉》注引《山公启事》曰："吏部郎史曜出，处缺当选，涛荐（阮）咸……诏用陆亮。"晋武帝决定任命陆亮为吏部郎，恐怕其中有分割山涛选官权力的动机。山涛以托病辞职抗议司马炎的用人不公。托病辞职是山涛在任职期间对付司马炎的杀手锏，曾多次使用，效果极佳。对山涛这一作法的用意，司马炎当然十分明白，他不愿失去这个难以替代的政治砝码，因此，不论山涛以什么理由辞职，司马炎只有一个决定--坚决不予批准，即使"免冠徒跣还印绶"也无济于事。
    山涛代表玄学名士派利益与礼法派周旋，不仅成为礼法派仕途上的大绊脚石，而且使那些游离于玄学名士群体之外的士人难以晋升，例如潘岳便在尚书台附近的阁柱上书写歌谣，以示抗议："阁东有大牛，和峤鞅、裴楷鞦、王济剔嬲不得休。"[30]事实上，山涛的确是和峤、裴楷、王济等玄学名士的政治代理人。在其任职期间，名士派的力量得到了壮大发展。这位表面上中庸平和的竹林老人，一手扶植了西晋玄学青年上台。从《山公启事》佚文看，这一时期的许多玄学名士都得到了他的选拔或引荐，如王济、裴楷、石崇、许奇、郭奕、和峤、乐广等。再者，他尽力保护那些受到礼法派贬抑的同党，比如任恺因得罪贾充而被免官，"毁谤益至，帝渐薄之，然山涛明恺为人通敏有智局，举为河南尹。"[31]另外，继续解决玄学名士的历史遗留问题，集中表现在选拔嵇康的儿子嵇绍入仕问题上。
    嵇康与山涛是好朋友，同为竹林之游，景元三年（262）以莫须有的罪名被司马昭杀害，临刑前托孤于山涛，"临诛，谓子绍曰：'臣源在，汝不孤矣。'"[32]山涛亦没有辜负朋友的信任，由于嵇康案影响太大，此事拖到太康元年（280）嵇绍二十八岁时才解决。《晋书·嵇绍传》载："山涛领选，启武帝曰：'《康诰》有言：父子罪不相及。嵇绍贤郤缺，宜加旌命，请为秘书郎。'帝谓涛曰：'如卿所言，乃堪为丞，何但郎也。'乃发诏征之，起家为秘书丕。"被破格选拔，一入仕便为五品秘书丞的嵇绍来到洛阳，引起轰动，舆论界誉之为"昂昂然如野鹤之在鸡群"[33]。至此，压在玄学名士心头的最后一个历史包袱搬掉了。
    玄学名士地位的上升，并不可能真正动摇贾充等礼法派的地位。咸宁二年（276），司马炎忽然重病，大有不起之势。朝臣私下议论后继君主的人选问题。有可能继承帝位的两位候选人--太子衷和齐王攸，都是贾充的女婿。河南尹夏侯和向贾充建议道："卿二女婿，亲疏等耳，立人当立德。"[34]司马炎病愈后，得到了这一禀报，深感贾充权力的威胁，于是，下令剥夺了这位亲家的兵权，并由李胤接任尚书令。司马炎并不想搬倒贾充，因为贾亦是政治平衡中难以替置的砝码，因此贾充"位遇无替"，"行太子太保，录尚书事"[35]。第二年，贾充以日蚀为由提出辞职，司马炎"不许"。咸宁五年（279），以张华、杜预为代表的玄学名士派与贾充、荀勖、冯紞为代表的礼法派在渡江伐吴问题上严重对峙：名士派主战，礼法派主和。司马炎坚决主张出兵伐吴，面对贾充等人的"固争"，"帝大怒，充免冠谢罪"[36]。但当伐吴战役发动后，司马炎仍命贾充为大都督，即伐吴总指挥。直到胜利的前夕，贾充派都坚持停止军事行动，认为："虽腰斩张华不足以谢天下"。平吴胜利后，贾充"诣阚请罪，帝抚而不问"[37]。
    三
    由于贾充在平吴战争中扮演了不光彩的角色，尽管晋武帝并未追究他的任何责任，但在太康初期，其势力和影响已明显削弱，成为高高挂起的人物。以杨皇后的父兄"三杨"为代表的外戚力量急剧膨胀，与荀勖、冯紞等人结合在一起，实际上取代了贾充的政治地位。这一现象，引起了名士派的不安。"后父杨骏及弟珧、济始用事，交通请谒，势倾内外，时人谓之三杨，旧臣多被疏退。山涛数有规讽，帝虽知而不能改。"[38]
    太康三年（282）贾充病逝。形势显然对玄学名士派有利。当时，尽管"三杨"权力上升，但其社会基础薄弱，名士派力量随贵族少年的成长而日益强大，在山涛年老多病的情况下（山涛于太康四年元月逝世），推出了新的代表人物齐王司马攸。司马攸是司马炎的胞弟，与玄学名士的主要人物关系一直较密切。泰始八年，庾纯辱骂贾充一案，正是由他出面力争才迫使司马炎让步。他年富力强，才德兼备，有极高的威信，不但政治地位仅次于皇帝司马炎，而且大有司马炎死后取代"白痴"太子司马衷为新皇帝的可能。