此时，吕公良夫人方莲君带着儿女来到许昌。吕公良忙于备战，只派副官接待。次日清晨，方莲君离开许昌时，吕公良才与妻儿匆匆见了一面。他对嘱咐妻子说：“军人以服从命令为天职，我这次要誓死保卫许昌，可能与许昌共存亡，如果我牺牲了，也是尽到了军人的天职，也是全家的光荣，人民会尊重你们，国家也会抚恤你们。要好好教育子女，接过我未完成的任务。”一同送行的孙浩感慨地说：“许昌是座历史名城，曹操曾在这里称雄于世。师座治军之严，严于律己，真像曹操当年割发代首那样。”吕公良答道：“大敌当前的指挥官，应该以身作则。试想，全师数千官兵谁没有妻子儿女，若此时我率先同家人团聚，守卫许昌的官兵该如何想，如何办？上下不同心，御敌就无力。自古忠孝难两全，为了抗击日寇，相信他们会谅解的。”晚上，吕公良给妻子写了一封信，信中称：“你这次到许昌短短的两天，走后真使我心中有说不出的难受……战事稳定下来，敌人打走后，再接你到前方来，痛快地住几天”，“我已充分准备，打仗是军人的本分，希望他来一拼，恐怕此信到时，我已在与敌人拼命了……当军人不打仗还有何用？”
    五
     1944年4月18日，日军第三十七师团、独立混成第七旅团先后在中牟县境内强渡黄河，突破中国军队暂编第二十七师阵地，豫中会战开始。4月23日，日军第十二军司令官内山英太郎中将认为平汉铁路以西的警备力量已有很大加强，因而决定沿铁路继续南下，攻占许昌。
     同日下午5时许，日军第三十七师团二二六联队二大队配属无线电分队进攻长葛和尚桥，守军新编第二十九师八十六团等部奋起抵抗。双方激战至第二天凌晨2时，中国军队被迫撤退，团长姚俊明重伤失踪。
     4月26日，日军内山司令官向其所属部队下达了进攻许昌的命令。29日，许昌周围的日军增至万余人，战车、装甲车、汽车150余辆，并完成了对许昌城的全面包围。30日晨6时，日军第三十七师团长长野佑一郎中将综合各方面的情报，断定中国军队要固守许昌城，便立即命令部队向许昌发起进攻，许昌城抗日保卫战打响。在城北俎庄，第八十五团一连官兵沉着应战，打退日军数次进攻，由于屡攻不下，日军便使用毒气配合作战。在城南思故台，在此守卫的一连官兵凭借工事居高临下，给来犯日军以迎头痛击。由于守军的坚决抵抗，日军频繁派飞机进行轰炸，还将一个山炮中队推到距思故台600米的地方瞄准射击，一时间炮声震天，烟尘弥漫，南关阵地守军伤亡惨重，但他们依然寸土不让。城东罗庄的守军与日军遭遇，即展开激烈的射击和掷手榴弹的战斗。连长吴超一手掂枪，一手提刀，同敌人厮杀得难解难分。班长王全义腹部中弹，肠子流出，他用手捂住伤口仍坚持战斗，直到牺牲。
     城外的战斗使日军感到，许昌不是一举可以荡平的，新二十九师也不是一触即溃的。后来日本官方的战史中，多次提到中国军队坚守许昌“抵抗异常顽强，毫无撤退迹象”和日军“行动颇为迟缓，伤亡陆续增加”。一支刚成立不久的部队能给数倍于我的日军以重创，这与师长吕公良平时严格的训练是分不开的。
     战至下午，城外四关陆续被日军攻占。下午4时，日军集中优势兵力，进攻西门和南门，吕公良亲自坐镇南门指挥，挫败日军6次冲锋，双方伤亡惨重。不久，日军第五航空军第二飞行团第四十四战队的几架轰炸机、战车第三师团栗栖支队陆续投入战斗。傍晚7时以后，日军坦克先后攻入西门和南门，步兵也随后冲进城内，吕公良率部展开激烈的巷战。
    六
     经过一天的战斗，新编第二十九师官兵伤亡惨重。晚上10时，在报请上级批准同意后，吕公良宣布部队分两路突围，指定集合地点为郾城黑龙潭。
     突围前，吕公良为了保持守城官兵的名节，含泪焚烧了师旗。当时吕公良身着整齐的黄呢将军服，在部队中十分显眼，部下苦劝他更换便衣，设法逃出，但吕公良凛然正色道：“我身为堂堂中国军人，沙场捐躯，虽死犹荣，岂能丧失民族气节为人耻笑！”
     从东门突围的一路，由第八十五团余部在前，该团4连协同师警卫排保护吕师长居中，第八十七团余部断后。在突围中，部队陷入了日军第二十七师团的封锁线，日军出动大批步兵、骑兵、炮兵等包围突围部队。双方当即展开了激烈的战斗，喊杀声如山崩地裂，震撼着周围的村庄，副师长黄永淮、第八十五团团长杨尚武、第八十七团团长李培芹先后英勇牺牲。
     吕公良显眼的着装，引起了日军的注意，他们疯狂地对吕公良进行攻击，吕公良连中数弹，流血不止，倒在麦地中。吕公良把两个警卫员叫到身边说：“我不行了，你俩走！我们三个不能都死在这里，活着出去也有个报仇送信的人，快走！”连催几遍，两位警卫员含泪离开了师长。
     5月1日中午，吕公良被附近一位村民发现，悄悄找人将吕公良抬回村里隐藏起来。这时吕公良已奄奄一息，由于伤势过重，缺医少药，第二天，被日军视为中国军队“抗战派的中坚干部”的吕公良停止了呼吸，年仅41岁。
     日军内山英太郎中将曾在他的日记中这样写道：“5月1日许昌城内的扫荡于上午结束。今晨攻占东北角后，由该处出逃的部分部队，6时20许在于庄附近被工兵第二十七联队小野部队围歼。由缴获名片中，得悉该部为包括新编第二十九师师长吕公良中将在内的司令部。因战时匆忙，未能郑重掩埋敌将遗体，并竖立标志，身为武士，不胜惭愧。”
     1944年10月20日，国民政府发布命令，追赠已故师长吕公良为陆军少将军衔。1946年，吕公良的妻子方莲君携儿女将将军忠骨迁至浙江杭州西湖畔安葬，当时沿途群众夹道迎送，许多村庄都设供桌祭奠。
     1988年，经国民党起义将领刘昌义提议，老一辈无产阶级革命家刘澜涛、杨静仁批示，4月5日清明节，吕公良被中华人民共和国民政部追认为革命烈士。2004年4月1日，值烈士殉国60周年之际，其家乡浙江省开化县修建了一座吕公良革命烈士陵园，作为爱国主义教育基地。诚如吕公良将军之子吕行素先生所言：“父亲所处的时代是我们国家最动荡，阶级矛盾、民族矛盾最剧烈的年代，他从一名教师转而投笔从戎，到当上了高级将领，最后英勇牺牲在战场上。应该说他是千千万万中国知识分子追求真理、热爱祖国的一个代表，也是5000年中国文化积淀的结果。”