1937年12月13日，侵华日军占领南京后，即制造了举世震惊、惨绝人寰的南京大屠杀事件。日军在南京大屠杀的遗址，遍布城郊内外。为悼念遇难同胞，教育后人，永远不忘这段屈辱的悲惨历史，南京市人民政府在建纪念馆的同时，在当年日军屠杀人数众多或埋尸集中的一些遗址，也建立了纪念碑，在江东门、上新河、挹江门、中山码头、煤炭港、鱼雷营、草鞋峡、燕子矶、清凉山、汉中门、北极阁、普德寺、中山陵西洼子村、正觉寺、五台山等遗址，共立碑15处。
    1985年8月15日，抗日战争胜利40周年纪念日，全市各碑与纪念馆同时落成揭幕。所立各碑，分布如下：
    下关区，当年日军在长江边屠杀的人比较多，故在挹江门、中山码头、煤炭港、鱼雷营，立碑四块。
    侵华日军南京大屠杀遇难同胞挹江门丛葬地纪念碑
    建于挹江门外绣球公园内。该碑位于一个小山坡上，左边靠城墙根，右边是绣球公园沿湖边道路，四周绿树环抱，风景秀丽。沿小径拾级而上，即见一个由半圆形的约一米长的矮墙环绕，中间是一个约一米高的方形墓冢，墓顶刻有一个大花圈覆盖其上。碑文刻于墓背面。日军当年在挹江门及城墙根附近姜家园、石榴园等地屠杀数以千计放下武器的士兵及平民百姓，仅崇善堂、红字会等慈善团体收尸即有5100余具，故于此立碑纪念。碑文如下：
    挹江门附近，是侵华日军南京大屠杀中我遇难同胞尸骨丛葬地之一。从1937年12月至1938年5月，南京崇善堂、红字会等慈善团体先后六批，共收死难者遗骸5100多具，埋葬于挹江门东城根及其附近之姜家园、石榴园等地。特立此碑，以志其事，藉慰死者，兼励后人，牢记历史，振兴中华。
    侵华日军南京大屠杀中山码头遇难同胞纪念碑
    建于下关中山轮渡码头与1号码头沿江路边路岛碧草丛中。背靠长江大堤，面对南京电厂。碑型独特，碑底座为三层红色台阶，碑身呈3米高立体三人字形，立于底座上。寓意30多万同胞被屠杀，仅中山码头即被害10000余人，血流成河，染红了长江。碑的中上部正面镌刻一个大花环，花环内刻写碑名和日期，背面刻写碑文。碑的四周种植长青柏树、绿草，肃穆壮观。其碑文如下：
    中山码头乃是侵华日军南京大屠杀遗址之一，当时避居国际安全区之青壮难民，在此惨遭杀害者，共达万人以上。其中，1937年12月16日傍晚，日军从避居于原华侨招待所之难民中，搜捕所谓有“当兵”嫌疑者5000余人，押解于此，用机枪集体射杀后，弃尸江中。12月18日，日军又从避居于大方巷之难民中，搜捕青年4000余名押解于此，复用机枪射杀。在此先后，日军还于毗近之南通路北麦地和九甲圩江边，枪杀我难民800余人。悲夫！其时码头顿成鬼域，同胞悉罹枉死，惨矣！呜呼，政闇国弱，何可安全？欲免外侮，唯赖自强。今虽时殊势异，仍当“前事不忘”。爰立此碑，勖勉后人：牢记历史，振兴中华。
    侵华日军南京大屠杀煤炭港遇难同胞纪念碑
    建于当年日军屠杀的煤炭港长江汊河口遗址桥头上。右边是当年日军抓捕关押放下武器士兵及平民的仓库遗址。该碑背靠滔滔长江，面对江边马路。碑型不大，水泥底座中间斜卧着一个雕刻的白玉石花圈，碑底座上是黑色大理石长方形碑身。其碑文如下：
    煤炭港系侵华日军南京大屠杀主要遗址之一。1937年12月17日，日军从各处搜捕我已解除武装之士兵及平民3000余人，拘禁于煤炭港下游江边，以机枪射杀；而伤未死者，悉被押往附近茅屋，纵火活焚至死。内有首都电厂职工45人，即死于此难。兹值中国人民抗日战争胜利40周年，特立此碑，悼念死者，永诫后人，铭念历史，振兴中华。