1924年9月17日，第二次直奉战争爆发。这时币原向国内外宣布日本对中国内战采取“不干涉”的方针。但宇垣却布置在中国的日本将佐与奉军“共同合作”。上原则根据情报拟定秘密计划，推动张作霖、段祺瑞合作，共同拉拢冯玉祥发动政变，颠覆曹吴。先是日方选择在北京政府任教育总长的黄郛为联系冯玉祥的中介人，由土肥原向黄提供一份从总统府窃取来的情报，即直方拟向美国求援的计划，将其副本转交冯，鼓动他断然起事，推翻曹吴。段祺瑞还亲自出马说动张作霖付给冯玉祥一笔可观的军费，其中首次交给的是一张横滨正金银行的100万元支票。(22)奉军先在热河战场进展顺利，10月上旬，战争重心移向山海关主战场。两军争夺激烈，伤亡惨重。当奉军弹药告急时，日方补给奉军步枪、机枪弹药4000万发，炮弹10万发，使奉军得以突破直军阵地。(23)10月中旬，吴佩孚亲率精兵往山海关督战，10月23日，冯玉祥乘直系后方兵力空虚，星夜回师，发动“北京政变”，囚禁曹锟，通电主和，终于导致曹吴统治的覆灭。
    冯玉祥在北京政变后，邀请孙中山北上，共商国是。日本加藤内阁认为孙中山要废除一切不平等条约，不能接受，对孙取道日本也故意不理睬。他们采取了扶段排孙的步骤，由大仓洋行向段祺瑞提供50万元政治活动经费。段祺瑞在北京组建中华民国临时执政府，取代摄政内阁，接着宣布“外崇国信”。在英日公使联合活动下，段祺瑞保证遵守一切条约，尊重外国特权。于是得到英美日等七国事实上的承认。北京政权实际上为奉系军阀所控制。1925年12月，奉军副军长郭松龄联合冯玉祥突然倒戈反奉。郭军一度占领锦州，逼近奉天，张作霖面临灭顶之灾。这时日本陆相宇垣和外相币原一致赞成以武力援张排郭。12月16日，日军宣布在距南满铁路两侧及起始点20华里的范围内，不仅不允许有战事发生，而且不允许有任何军事行动包括退却和追击。(24)在日本和其他列强的公然阻挠下，郭松龄部的作战受到很大限制，导致郭松龄兵败身亡。因此张作霖能暂且站稳脚跟，苟延残喘地继续维持其统治。
    日本和奉张之间的关系建立在互相利用的基础上，不可避免地存在着矛盾和斗争。例如1925年后，奉张开始着手修建铁路，其中主要有打通线（打虎山至通辽）。日本认为打通线与南满铁路“平行竞争之路”，是对其“既得权利的蹂躏”。声称“帝国政府断难默视”。这时它们之间的矛盾尚比较隐蔽，随着奉系实力的增强和局势的发展，双方对利益的争夺及控制的斗争也日渐尖锐起来。
    事实表明，日本在20年代前期调整了对华政策，先集中力量加强在中国东北的侵略扩张，并重点扶持张作霖充当工具，实行外交上的所谓“不干涉”和军事上的实际介入相结合的策略，确实取得了相当的成效。日本和奉张之间的关系是建立在互相利用的基础上的，它们之间不可避免地要有矛盾和斗争，只是当时未突出暴露而已。随着以国共合作而兴起的革命运动蓬勃发展，日本当局继续扶植军阀统治，站在中国人民革命与进步力量的对立位置，这种局面是不能长久维持的。
    三
    孙中山和南方革命政权同日本朝野之间的交往，是反映当时中日关系的一个重要方面。五四运动后，孙中山更尖锐地谴责日本的侵华政策，但仍然没有放弃争取日本支持的努力。他关于中日两国平等互助，在国际上共同发挥作用的主张，受到日本友好人士的关注，可是遭到日本当权者的冷遇和阻挠。
    巴黎和会之后，退居上海的孙中山立即揭露日本武人、军阀逞其帝国主义之野心，忘其维新志士之怀抱，一针见血地指出：“日本今日之继承德国山东权利者，即为他年继承德国败亡之先兆而已。”(25)1920年1月，他授命广东政府致电劝告北京政府勿与日本直接交涉山东问题。他认为“吾国宁可极力坚拒日本，而以抵制日货及其他断绝经济关系之法对待之。”(26)继而，他指出“二十一条款和军事协定，是日本制的最强韧的4铁锁链，来绑中国手脚的。”提出“要各种力量都并合起来做工夫，连中国人，连日本人中间的民主分子，都要算进去，帮助废除二十一条款。”(27)
    孙中山很重视争取日本人士对中国民主革命派的理解和对南方政权的支持。在他回广州重建军政府之后，1921年初，日本有的报纸评论孙中山在搞“赤化”和亲美活动。他特发电报邀请宫崎滔天和萱野长知自日本经上海到广州访问。他诚挚地向日本友人解释说：“多年来我们所主张的三民主义，我认为它没有更改的必要，并期待此一主义得以贯彻实行。”至于“欲以亲美派、亲英派名目强加予我者，不过出于日本当局的一厢情愿罢了。”(28)宫崎等还受孙中山的嘱托，回日本后多方联络日本的一些企业家等筹集“民间资本”，酝酿到广州和海南岛等地进行开发。
    1922年初，在华盛顿会议期间，孙中山以中华民国非常大总统的身份发布命令，反对北京政府与日本就山东问题进行直接交涉，严正表示对内“以救国讨贼为己任”；“对外竭力主张无条件收回山东一切权利，废除二十一条。(29)6月间南北军阀陈炯明、吴佩孚在英美等国支持下，发动军事叛乱再次逼走孙中山，导致第二次护法运动的失败。孙中山在实践中逐渐认清日本等国对华政策的实质，由对日本官方的指望逐渐转向联合日本国民和世界上被压迫的民族，共同反对帝国主义的侵略和压迫。1923年1月他在上海经过与苏俄特使越飞多次会谈，发表了《孙中山与越飞联合宣言》，确立了联俄政策。
    孙中山再回广州重新设立大元帅府，第三次在广东建立政权时，他在戎马倥偬中很关注日本的情况。1923年9月1日，日本发生关东大地震，生命财产损失巨大。孙中山立即致电日本国摄政裕仁亲王慰问震灾。电文说：“值贵国京城和国家遭受空前灾难、造成生命财产损失之际，请接受中国人民的深切慰问，我深信日本举国必将本着素有的勇气与刚毅精神对待这一事件。”接着，他又向日本国著名人士山本权兵卫、后藤新平、田中义一、犬养毅、西园寺公望、宫崎民藏等一一致书慰问。其中说：“文自战地归来，留意讯访，幸挚友良朋，尚庆无恙，悬情之恫，差幸轻减。”(30)表现孙中山对日本友人的深情厚谊。
    同年12月，广东军政府向英美等国争取收回关余的斗争达到高潮。北京外交团坚持要将广东应得的税款继续交给北京政府，并向广东政府提出警告，声称要“采取相当强迫手段，藉凭办理。”(31)列强还派出十多艘军舰先集中黄埔，继而开入省河进行威胁。日本也派出2艘军舰加入其中。孙中山毅然采取强硬手段，坚持原则立场，迫使各列强改变态度，将广东应得的关余，拨交大元帅府。