三月二十四日下午四时，中日第三轮谈判结束后，李鸿章乘轿车返回驿馆途中。人群中忽然蹿出一名日本男子，在卫兵未及反应之时，朝李鸿章脸上就是一枪。李鸿章左颊中弹，血染官服，倒在血泊之中。幸好子弹没有击中要害。李鸿章清醒过来后，叮嘱随员将换下来的血衣保存下来，不要洗掉血迹。面对斑斑血迹的官服，七十三岁的李鸿章一声长叹：“此血可以报国矣！”
李鸿章在日本遇刺之后，各国纷纷谴责日本这种不顾外交人员安危的行为，日本一时显得非常被动。日本政府本来拟就的谈判方略是借战争逼迫清政府签订不平等条约，然后见好就收。伊藤博文最担心的是虎视眈眈的西洋各国借机挑起对日本的战争，坐收渔人之利，趁火打劫，毕竟，日本也在甲午战争中耗尽了力量，但刺杀李鸿章的行为却无异于授人以柄。
李鸿章遇刺让日本朝野震惊，日皇遣御医和军医来调治。伊藤、陆奥亦前来谢罪，为表歉意日方同意中日停战。日方劝李鸿章安心养伤，待伤好之后再议中日和约。李鸿章断然拒绝：“国步艰难，和局之成，刻不容缓，予焉能延宕以误国乎？”说什么也不肯停下议和，“舍予命而有益于国，亦所不辞。”
四月十日，李鸿章伤势稍好转之后，中日双方又就甲午战争展开第五次谈判。中国的和约修正案送达日方。李鸿章的伤势渐愈，亲自参加了会议。
十一日，李鸿章将其所拟和约草稿分四款：一朝鲜自主，二让地，三兵费，四通商权利。除朝鲜自主外，余皆遭极力反驳。十五日，李鸿章另拟一和约送去，即请赔兵费一万万两，割奉天南四县等，伊藤亦逐一驳议。十六日，伊藤将修改后的和约送来，合约稍微缓和。日方称已可再议，李鸿章卑微乞怜，旁人观之心酸不已，泣不成声。最后合约达成，即《马关条约》。除割辽东外，台湾及彭湖列岛也在其中，而赔款则高达二万万两白银。李鸿章再次乞怜，日方只答应中国若在三年内付清赔款可以免息以及免除日本驻威海卫的兵费。
在马关谈判中，李鸿章的挺立不倒也在给日本人传达着一个信息：清廷虽然羸弱，虽然腐败，虽然已经如他一样经历着伤病，但绝不会自己倒下，只要一息尚存，就要抗争到底。
在签字前的最后关头，李鸿章曾经老泪纵横地对使团的美国顾问科士达说：“万一谈判不成，只有迁都陕西，和日本长期作战，日本必不能征服中国，中国可以抵抗到无尽期，日本最后必败求和。”
当李鸿章在半个多月后带着赔偿、割地、枪伤以及耻辱离开马关时，他曾发誓决不踏入日本。一年之后，当李鸿章周游欧洲列国再次途经日本换船时，李鸿章死活也不肯上岸，只是在两船之间搭一个木板，然后在别人的搀扶下颤颤巍巍地走了过去。
李鸿章去世的第二年，吴汝纶东游日本考察教育，看到李鸿章当年谈判时坐的凳子竟都要比日本人矮半截，不觉悲从中来。当陪同的日本友人要他留下墨宝时，他有感而发，大书四个字：“伤心之地”。作为一个局外人都感到如此不堪，而作为集万千矛盾于一身的李鸿章当时不知作何感想。