李鸿章没有想到日方会提出如此苛刻的条件，即时抗议日方的无理要求。双方僵持己见没有结果，李鸿章要求三日犹豫时间，当日会谈结束。

3月24日第三轮和谈会议。李鸿章决定暂时回避休战议题，要求直接进入媾和交涉，请日方开示和平条约案。伊藤表示倘若中止休战条件案，以后将不再协议。双方决定翌日转入媾和谈判议程。

可是就在当日发生了一件震惊各国的大事件，李鸿章在返回驿馆的途中，遭到自由党系的青年小山丰太郎的暗杀袭击，手枪子弹击中李鸿章左眼下面颊。会谈期间，由于日本警察正在镇压国内的反政府运动，放松了对使节团的安全保障，使得小山刺杀行动得手。小山作案动机代表了部分日本激进分子的立场，主张日本在战争战果尚不足够的状况下，过早与清国讲和对日本极为不利。如果现在就将和平拱手让予清国，就会养虎为患，大清帝国早晚会再度反目，故用暗杀李鸿章的手段阻止两国的和谈。小山的动机虽然属于个人行为，却符合相当多日本人的“恐清心态”。高龄的李鸿章作为大国特使，身赴敌地媾和谈判，不但没有受到相当的保护礼遇，反而遭到胜利国一方的杀害行为，严重违反了万国公法条例。深受震惊的日本天皇和政府内阁，唯恐被国际社会指责为卑怯狭隘、丧失文明的野蛮国家。

暗杀事件的无礼待遇在国际社会引起轩然大波，协调和谈的美国公使表示：“欧美各国对事件的感觉坏到了极点，向日本政府提出忠告，应该立即同意李鸿章提出的休战请求。”俄国公使扬言：“本事件的发生，清国完全有理由请求列强干涉和帮助。”连日来日本全国民众对日本人的国权主义恐怖行为表示愤慨和忧虑，媾和使团收到大量来自日本国各地的慰问信、电报、慰问品，引接寺门前集聚众多的慰问群众。3月27日，天皇要求伊藤立即允诺休战，并签署了无条件休战敕令。28日李经芳代表在春帆楼与双方签署了日清休战条约。但是日本坚持把台湾和澎湖列岛排除于停战地域之外，确保媾和谈判进程的筹码。

4月1日第四轮和谈会议。陆奥外相向清国代表开示媾和条约案，翌日病榻上的李鸿章对日方的和平条约中割地赔款案提出详细反论文书，采用拖延战术给北京政府更多的商讨时间。朝廷上光绪帝和各大臣间意见不能统一，三国公使的调停也无法进行。伊藤约见李经芳，强调若出现谈判破裂的情况，征清大总督将率大军出兵清国，要求尽快答复日方提出的要求。

4月10日第五轮和谈会议。会谈在伊藤和李鸿章两人之间进行（陆奥患流感缺席），病榻上的李鸿章强硬反对日本关于割让台湾、辽东半岛、2亿5千万两战费赔偿金的要求。伊藤提示在广岛的60艘送兵船正在整装待发，昨夜至今晨已经有20艘通过下关海峡，胁迫李鸿章13日前给予答复，李回答14日午后4时答复。此间，李鸿章每日给总理衙门发回大量电文报告会谈进展情况，往来的电报均被日方截获破译。伊藤完全掌握了清国决意回避谈判破裂局面的底线，进而采取了更加强硬的立场。

4月15日第六轮和谈会议。11日、12日、13日间，李鸿章和伊藤在会议外频繁传递文书继续交涉。15日的第六轮会议持续进行了5个小时，李鸿章坚持要求缓和赔偿条件，请求伊藤给老朋友留面子，伊藤仍然没有做出让步。李鸿章连发密电奏请朝廷，光绪皇帝同意签约，下达“即遵前旨与之定约”的命令。无可奈何的李鸿章只能屈负清国天下之骂名，答应伊藤翌日签署条约。退出会谈室时，李鸿章面对伊藤扔下一句“没有想到阁下是这样严酷执拗之人”，愤然离去。

4月16日,内阁书记官长伊东、外务大臣秘书官中田敬义和清国参赞官罗丰禄、伍廷芳，共同起草核对媾和条约的日文、中文、英文文案。4月17日上午10时召开第七轮和谈会议，双方在讲和条约书、条约误解防止议定书、威海卫担保占领及日军驻在数量、占领费用负担别约、休战延期至5月8日两国皇帝条约批准期限等文书上签字，日清媾和条约即日成立。预定两国皇帝批准书的交换时间为5月8日，李鸿章请求休战期限从17日延至21日，休战同时适用于台湾和澎湖列岛。上午11时40分签字调印式结束，国际法上清日战争终结。条约签订的当日午后，李鸿章的清国使节团速速离开了马关归国。