二月初八（3月4日），李正式领受了全权敕书。内云：特授文华殿大学士直隶总督北洋大臣一等肃毅伯李鸿章为头等全权大臣，与日本国所派全权大臣会同商议，便宜行事，定立和约条款，予以署名画押之全权。
十八日（3月14日），李鸿章带着养子李经方，乘德国轮船离开了他坐镇26年的天津。驶向他宿命中的终点：日本。与他同行的还有3名2品顶戴参赞：罗丰禄、马建忠、伍廷芳。两名美国顾问：前美国国务卿科士达，前美国副领事毕德格。另：日文翻译罗庚龄、卢永铭。再算上医生、文案、武弁、管厨、厨子、茶房、打杂、轿班、剃头匠等，共计135人。至于谈判地点，则改在了靠近伊藤博文故乡长门的马关春帆楼。
两天后，日本大本营决定成立“征清大总督府”，以参谋总长小松彰仁亲王为大总督，率海军军令部部长桦山资纪、参谋本部次长川上操六、野战卫生长官石黑忠惠，野战监督长官野田豁通及将校数十人，进驻旅顺，对中方施压。
对于这次谈判的艰巨性，李鸿章早有心理准备，但有一件事，是他做梦也没想到的。他与北京的外交联络密码早已为日本破译！
说起来要追溯到1894年的6月22日。就在这一天，日本外交机构向中国驻日公使汪凤藻递交了所谓的“第一次绝交书”，表达了日本绝不从朝鲜撤军的强硬立场。不同寻常的是，这份日方送出的外交文书居然以汉文写成。汪凤藻忽略了这个非常关键的细节，竟然以密码而非明码的形式将之全文拍发北京。结果就是，日本谍报系统通过截获电码，照本逆推，轻易破译了大清国外交系统的密码。此后直到“高升号事件”后汪凤藻被召回，中方的外交函电始终处于日本的全面掌握之中。现在，李鸿章前来日本谈判，还是要用这套密码，结果就是日方继续占尽先机，窥尽中方底牌。
正式谈判还没开始，李鸿章就大落了下风。不仅在明争上失了先机，在暗斗上也吃了大亏。
二十三日（19日），李鸿章一行抵达日本马关。次日午后二点半钟，中日双方全权大臣齐聚于马关春帆楼，开始第一次会议。
这次会谈争论的核心是停战问题。李认为，双方既已和谈，理当同时终止军事行动，等待和谈结果。但在伊藤看来，中方已无力再战，日方却尚有余勇。如果在和谈期间出现了有利战机，日军难道坐失不成？所以他是既要和谈，“文明”
地敲诈大清国，同时却又不放弃军事行动的自由权。但第一次会谈就把话说得这么绝，只怕不利于日后的敲诈。伊藤遂故作沉思状，片刻，答曰：“此事明日作复。”伊藤既不愿表态，处于弱势的李也无办法，只好转而言其他：“亚细亚洲，我中东两国，最为邻近，且系同文，讵可寻仇？今暂时相争，总以永好为事。如寻仇不已，则有害于华者，未必于东（瀛）有益也。试观欧洲各国，练兵虽强，不轻启衅。我中（国）东（瀛）既在同洲，亦当效法欧洲。如我两国使臣，彼此深知此意，应力维亚洲大局，永结和好，庶我亚洲黄种之民，不为欧洲白种之民所侵蚀也。”又云：“贵国兵将，悉照西法，训练甚精，各项政治，日新月异，此次本大臣进京，与士大夫谈论，亦有深知我国必宜改变方能自立者。”
类似的言论还将在日后的会谈中频频出现。在陆奥宗光看来，李鸿章之所以“不断表示羡慕我国的改革进步，赞美伊藤总理的功绩，又论东西两岸的形势以戒兄弟阋墙而招外侮，主张中日同盟，不外讽示迅速完成媾和的必要。他所谈论的虽然只是今日东方政界人士的老生常谈，但是他如此高谈阔论，其目的是想借此引起我国的同情，间用冷嘲热讽以掩盖战败者的屈辱地位，尽管他是狡猾，却也令人可爱，可以说到底不愧为中国当代的一个人物。”
无奈强弱之形相去太甚，日本人又论力不论理。李鸿章再巧舌如簧也已无法挽回局面。果不其然，次日午后两点半，第二次会谈一开始，伊藤就抛出了重磅炸弹。
伊藤说，停战可以，但中方要先应允如下条件方可：日本军队占领大沽、天津、山海关，并该地之城垒；上列各地之清国军队，将一切军器、军需品交与日本军队，日本军务官管理天津、山海关之铁路，休战期内清国负担日本国之军事费用。若以上条件不生异议，即可提出实行停战之日期期限，日清两军之经界线及其他细目。
条件如此苛刻，李鸿章大吃一惊。要知道，清廷之所以急于停战，正是害怕以上三处落入日军之手。现在日本却要以此作为停战之交换条件，岂非太过刻薄？
李鸿章当即驳斥：“现在日军并未至大沽、天津、山海关等处，何以所拟停战条款内，竞欲占据？”
伊藤答：“凡议停战，两国应均沾利益。华军以停战为有益，故我军应据三处为质。”
李又问：“三处华兵甚多，日军往据，彼将何往？”
伊答：“任往何处。两军惟须先定相距之界。”
李云：“两军相近，易生衅端，天津衙门甚多，官又将何为？”
伊藤遂直言：这些都是细节，可以日后细谈。关键是大方向，你们到底同意还是不同意？
李亦直言：“虽然为细目，亦须问明。且所关甚重要，话不可不先说。”
伊藤说：既如此，那就请中堂拟清细目，咱们再谈好了。
李遂转而又打起西洋牌：“天津系通商口岸，日本亦将管辖否？”
伊：“可暂归日本管理。”
李：“日兵到津，将住何处？”。
伊：“俟华兵退出，即在华兵营盘。如不敷，可添盖兵房。”
李：“如此，岂非久踞乎？”
伊：“视停战之久暂而定。”
李：“停战之期谁定？”
伊：“两面互商，但不能过久。”
李：“所据不久，三处何必让出？且三处皆系险要之地，若停战期满，议和不成，则日军先已据此，岂非反客为主？”
伊再次强调：“停战期满，和议已成，当即退出。”
如此反复辩难，李终难占上风，最后迫不得已，只好先将停战一事搁置，问伊藤可否绕过停战直接和谈。
这正是伊藤等待已久的答案，他又怎会拒绝呢？
于是李又问日方和谈的价码为何。伊藤却已不愿多说。他表示：等中方正式撤回停战要求，或拿出新的停战条款后，再说不迟。
谈判桌上，李鸿章未能占到便宜。战场上的形势，也发生了新的变化。正是在这一天，日军登陆澎湖东炮台，二十九日即占领全岛。
三天后，北京方面终于作出让步：中方主动撤回停战要求，双方直接进行终战和谈。也就在这天下午三点，双方展开了第三轮谈判。
中方首先诵读了关于主动撤回停战要求的节略，并将详文亲送伊藤。一番寒暄后，伊藤忽然不怀好意地问到了台湾人易不易于治理。这令李鸿章大为震惊。
他立即答道：“台湾系潮州漳泉客民迁往，最为强悍。”
伊又问：“台湾尚有生番？”
李警惕地回答：“生番居十之六，余皆客民。贵大臣提及台湾，想遂有往踞之心，不愿停战者因此？”
伊藤(微笑)：“决非如此。”
李：“贵国倘占台湾，英国将不甘心，前所言恐损他国权利，正指此耳。奈何？”
伊藤：“英国乃守局外中立，无任何置喙之理由。”
李：“英国固守局外中立，然此事与其利害攸关耳。”
伊藤(边笑边说)：“利害攸关者非英园也，岂非贵国乎？”
李：“否。以台湾近香港。”
伊藤：“近香港何妨？我只进攻敌对之国。”
李：“闻英国除我国之外，不欲他国盘踞台湾。”
伊藤(微笑)：“岂止台湾而已！不论贵国版图内之何地，我倘欲割取之，何国能出面拒绝？”
李遂坚称：“台湾已立一行省，不能送给他国！”
但硬话的背后，却正是无奈与恐惧。
纵观春帆楼的三次和议。谈判的流程始终牢牢掌握在日本人手中。下面要做的事情，就是在军事上伺机攻略台湾，同时在谈判桌上一点点掀翻底牌，然后狮子大张口地将苛刻的议和条款强加在大清国身上。但伊藤也好，陆奥也好，明治天皇也好，都不会料到，二十八日当天和谈结束后的一起突发事件，会彻底打破平静的谈判流程！
李鸿章遇刺了！
价值一亿两的愤青一枪
原来，早在甲午战争之前，大多数日本人早就将李鸿章锁定为大清国的抗日中坚。所以日军攻略旅顺口后，在练习射击时，才用一个身上写着“李中堂”三个大字的草人作靶。现在李鸿章来马关议和，更令日本的民间激进势力忿怒。在他们看来，大日本帝国皇军连战皆捷，却迟迟不能签订有利的终战条约，关键就在于李鸿章的作梗。
于是，在二十八日（3月24日）的谈判结束后，一个名叫小山丰太郎的激进分子（二十六岁，无业），对返回寓馆途中的李鸿章扣动了扳机。
子弹从相距五尺处射出，由于李的眼镜带得较低，子弹是先击碎镜片再打中李的左颧，深入左目下。
当是时，李鸿章“惟仿佛见一人将手枪来距舆前数尺，忽闻枪声，即觉左颧痛甚。以手抚之，知左目下受伤流血，遂以手帕拭之，血流袍服殆遍。自料必死，幸心神镇定不乱，惟晕眩难支。”
待李鸿章被抬回住处，已是血满袍服。医官们迅速制定了医救方案。方案一：立即取出子弹。方案二：在不取出子弹的情况下治疗。若采取前者，“子出则疤愈”，但头部手术风险太大，就算成功，“尚须静养多日，尤不能稍劳心力。”
李慨然选择了后者：“国步艰难，和局之成，刻不容缓，予焉能延宕以误国乎？
我宁死，无割！”
次日醒来，李看着血衣说：“此血所以报国也！”命令左右收好，他日带回国内，既明耻复警示后人。
李鸿章遇刺的消息一经传出，世界舆论为之震惊。像李鸿章这种世界知名的政治家，以七十三岁高龄赴日本谈判，本身就很易于引发同情，现在又发生了这样的不幸事件，就更易于引发同情了。果不其然。一夜之间，世界舆论纷纷指责日本人的“野蛮”，并同情李与大清国的“可怜”。
这下可急坏了日本政府。一时间，伊藤博文、陆奥宗光亲来“慰问”。天皇接到报告后，也特派侍从武官中村大佐为特使，偕石黑忠惠、佐藤进两军医总监同赴马关，“慰问李病”。皇后“赐与御制的绷带，并派护士二名前去侍养”。来自日本民间的慰问品也开始源源不断地涌来。
三月初五（3月30日），日本山口地方法院以预谋杀人未遂罪判处小山丰太郎无期徒刑。山口县知事及巡捕长则受到了革职的处分。同一天，中方期待已久的《中日停战协定》签订。内容共六款：
第一款，大清帝国、大日本帝国政府，现允中日两国所有在奉天、直隶、山东地方水陆各军，均确照以下所定停战条款-律办理。
第二款，两国军队应遵该约暂行停战者，各自须驻守现在屯扎地方，停战期内不得互为前进。
第三款，中日两国现约，在停战期内，所有两国前敌兵队，无论或攻或守，各不加增前进，并不添派援兵及加一切战斗之力，惟两国如有分派布置新兵，非遣往前敌助战者，不在此款之内。
第四款，海上转运兵勇军需，所有战时禁物，仍按战时公例，随时由敌船查捕。
第五款，两国政府于此约签订之后，限二十一日期内，确照此项停战条约办理，惟两国军队驻扎处所有电线不通之处，各自设法从速知照，两国前敌各将领于得信后，亦可彼此互相知照，立即停战。
第六款，此项停战条款，约明于光绪二十一年三月二十六日，即明治二十八年四月二十日，中午十二点钟届满，彼此无须知会。如期内和议决裂，此项停战之约亦即中止。
三月初七（4月1日），头裹纱布的李鸿章终于看到了日本提出的和约底稿，其主要内容是：
一、中国认明朝鲜国确为完全无缺之独立自主；
二、中国将盛京省南部地方、台湾全岛及澎湖列岛永远让与日本国；
三、中国赔偿日本军费库平银三亿两；
四、中国已开通商口岸之外，增开顺天府、沙市、湘潭、重庆、梧州、苏州、杭州七处为通商口岸，日本国臣民运进中国各口货物减税，免除厘金，并得在中国制造一切货物。
内容的苛刻可谓空前，并限期四天答复。日方唯一的让步就是看在李鸿章吃了一枪的份上，将3亿两的赔款减去1亿两。
