5月7日，在有关列强提出总数为6750万镑（约合关平银4.5亿两）的赔款要求后，美国始终持反对立场。美国谈判代表柔克义（W.W.Rockhill）为削减这一赔款数，甚至于7、9两日分别通知美国驻南京和汉口领事密告两江总督刘坤一和湖广总督张之洞，希望经由中国全权谈判代表陈述困难，以达到削减赔款的目的。（注："Mr.Rockhill to American Consul,Nanking,Hankow",May7,9,1901,Report of William W.Rockhill（Washington,1901）， p.159.按：当时列强提出4.5亿两赔款额系为试探清政府有无偿还这一赔款额的能力，并非定议，故柔克义有此举动。但遗憾的是当时清政府对赔款问题并没有像惩凶问题那样与列强交涉，而是贸然接受。）10日，海约翰在致柔克义的电报中也认为这一总数太高了，他第一次明确提出：为使赔款额降到一个合理的数字内，如果其他各国也同样缩减的话，美国政府愿意将所要求的赔款减少1/2。（注："Mr.HaytoMr.Rockhill",May10,1901,Diplomatic Instructions of the Department of State,1801-1906,China,microfilm,Roll No.43.）在清政府答应列强的赔款要求之后，美国谈判代表柔克义仍然呼吁降低赔款，他在5月22日的外交团会议上指出：虽然中国政府承认了4.5亿两的赔款，但当初我们提出这一要求只是一个假设性的数字，因此我们不能就此把它理解为要求中国偿付这一巨款的一个承诺。（注："Mr.Rockhill to Mr.Hay",May13,1901,Report of William W.Rockhill,p. 156;"Memorandum,Mr.Rockhill to Mr. Secretary", January 22, 1902, Rockhill Papers （Houghton Library, Harvard University）。）28日，海约翰在电报中也支持柔克义的立场，再次表示“这一数额太大了，恐怕会给中国造成灾难”，指示如有可能，将赔款问题移交海牙国际仲裁法庭裁决。（注："Mr.Hayto Mr.Rockhill",May28,June6,July20,1901,Diplomatic Instructions of the Department of State,1801-1906,China,microfilm,Roll No.43.）但由于各国的反对，美国的建议始终没有被接受。
    1901年9月《辛丑条约》签订后，由于各国申报的赔款总额高达4.6亿多海关两，比和约规定的4.5亿两多出1000余万两，因此各国继续就如何分配庚款问题举行谈判。在此过程中，美国不但表示愿意按比例削减赔款额，而且还多次指示美国驻华公使康格转告其他列强，在将各国的赔款总额削减至4.5亿两之后，美国愿意做进一步的削减，假如其他列强也按比例削减的话。（注："Hay to Conger",May9,1902;"Hill to Conger",June28,1902,Diplomatic Instructions of the Department of State,1801-1906,China,microfilm,Roll No.43.）然而，美国政府的这一倡议并没有得到其他列强的响应，经多番商讨，至1902年7月列强仅就他们之间如何分配4.5亿的赔款达成一致意见，而无意做进一步的削减。
    在劝说其他列强共同按比例削减庚子赔款的倡议失败之后，作为当事人的海约翰和当时负责远东政策的柔克义为缓解因“磅亏”问题给清政府造成的进一步的财政压力，开始考虑率先由美国单独退还庚款的超额部分，从而促使其他列强一同退还。1904年12月6日，应海约翰的要求，柔克义草拟了一份提交国会的关于退还部分庚子赔款的备忘录。该备忘录指出：经调查，美国公民在义和团运动时期所遭受的损失以及美国军队的开支并非最初估计的那么多，鉴于这一事实，以及中国目前的财政困难和我们以前也有过向中国退还多余部分赔款的政策（注：系指1885年美国退还广州洋行赔偿多余之款一事，详见王树槐《庚子赔款》，第270-271页。），故而向国会提出庚子赔款对中国是否存在不公正问题是我的职责；退还部分庚子赔款对减轻中国沉重的债务来说是十分必要的；如果这一建议获得国会的批准，我建议授权行政部门通知中国政府，此后美国只要求赔款总数的一半（注："Memorandum",Dec6,1904,Rockhill Papers;"W.W.Rockhill to Mr.Secretary",December12,1904,John Hay Papers,microfilm,Roll No.9.按：该备忘录因海约翰不久病故未及正式提交国会。）。1905年1月间，驻美公使梁诚奉命与美国商讨还金还银问题，海约翰一方面表示鉴于清政府已答应其他列强的还金要求，美国也应一视同仁，但同时为缓解因还金给清政府所增加的财政负担，第一次婉转向中方表达了退还多余部分赔款的打算，并叮嘱梁转告清政府，为避免产生阻力，不要泄露这一消息。（注：《驻美公使梁致外务部函》（光绪三十年十二月十四日收到），清华大学校史研究室编：《清华大学史料选编》（一），清华大学出版社1991年版，第73-74页。按：许多学者，包括王树槐和美国学者韩德，都没有注意到在此之前海约翰已授意柔克义起草了要求国会授权退还部分庚款的备忘录这一事实，便根据梁诚的这封信，认为要求美国退还部分庚款系梁诚倡议。严格说来，这一观点是不符合历史事实的；事实是当时梁诚只是就还金还银问题奉命与美方交涉，退还庚款则是海约翰首先婉转暗示的。）同年4月，柔克义为早日促成此事，在来华任公使前夕，就如何归还部分庚款征询梁诚的意见。（注：《驻美公使梁致外务部函》（光绪三十年十二月十四日收到），《清华大学史料选编》（一），第77页。）1905年7月12日，在国务卿海约翰病逝后第5天，已来华履任的柔克义又立即给美国总统罗斯福（TheodoreRoosevelt）写信，希望早日解决退还庚款超额部分的问题，指出：在过去的几年里，海约翰经常与我说起这件事，每次他都这样表达他的意见：我们必须找到某种方式履行公正。但这件事在国务院中并没有任何文字记录，只是在海约翰和我之间一再讨论，因此，“提请您关心这件事是我的责任，也是对海约翰的纪念，相信以您的智慧，您能够决定以某种方式完成这一愿望”（注："Rockhill to Theodore Roosevelt",July12,1905,Rockhill Papers.）。
    然而，当时中美之间所发生的一系列纠纷，如收回粤汉铁路、抵制美货运动及发生在广东的连州教案，影响了美国政府做出退还部分庚款的决定。8月22日，美国总统罗斯福在给柔克义的回信中虽然承诺他本人将会解决这个问题，并表示无论是在移民问题还是在赔款问题上，他比任何一个总统更愿意公正地对待中国人，但同时明确表示最近中国政府在粤汉铁路和抵制美货运动中的表现使他对向国会提出这件事犹豫不决，指示柔克义必须对清政府在处理这两件事情上的“错误行为”采取强硬态度，以最强烈的方式让清朝官员明白他们在粤汉铁路和抵制美货运动中没有履行“公正”，极大妨碍了获得国会赞同退还部分庚款的机会。（注："Theodore Roosevelt to W.W.Rockhill",August22,1905,Rockhill Papers.）8月29日，罗斯福在致柔克义的信中再次强调：因清政府在收回粤汉铁路和抵制美货运动中所持的态度和表现，我不能确定退还庚款之事会经历多么漫长的过程。（注："Theodore Roosevelt to W.W.Rockhill",August29,1905,Rockhill Papers.）11月16日，罗斯福在接见丁韪良（W.A.P.Martin）时也表示，中国目前发生的抵制美货和杀害传教士事件，使退还庚子赔款成为不可能之事。（注：W.A.P.Martin,The Awakening of China（New York,1907），p.251.按：在抵制美货运动和连州教案发生之后，美国国内一度盛传中国国内正在发生第二次义和团运动，美国总统罗斯福甚至商议派军队对中国进行威胁，见Howard K.Beale,Theodore Roosevelt and the Rise of America to World Power（The Johns Hopkins Press,1965），pp.239-245。）