牙山外援继绝，日军遂大举进攻，聂、叶两军苦斗，且战且退，七月廿一日绕过汉城退抵平壤。叶志超竟向清廷谎报战功，宣称毙敌无算。捷报传到北京，清廷大加奖赏，命叶统率各军驻节平壤。各军咸知叶战败谎报战胜，对清廷命叶指挥调度极不满意，叶也内愧，不敢指挥，于是平壤的清军便各不相属。
七月初一，中日两国同日宣战，第二天李鸿章所派四路大军始抵平壤。
平壤之战正式爆发于八月十六日，战斗只一天平壤即告陷落。清军最勇者为马玉昆部，死难最烈者为左宝贵部。清军阵亡2000余人，被俘数百人，城内所有兵械、饷粮以及公文密电均为日军所有。败军直奔500里，退过鸭绿江，朝鲜全境遂落入日军手中。
平壤陆战结束后，八月十八日爆发了黄海海战，这场海上主力战仅历时半天。
清朝北洋海军由提督丁汝昌指挥。丁汝昌是淮军老人，甲午春间，海军刚好大检阅，阅兵后不久战争爆发。照理养兵千日用在一时，怎知清朝海军除了船多吨位多外，一无所长；战舰既陈旧，防炮钢板又薄弱，速度也慢＇奇·书·网…整。理'提。供＇，所有官兵都携家带眷住在陆上，把兵舰当作一个衙门，点卯应粮，而海军经费则全部移去修建颐和园，这样的海军，怎能一战呢！
中日海军在黄海上相遇，清海军排成｜人字形，张开两翼以待敌舰；日本海军则排成一字形，相机变化以争取有利形势。丁汝昌乘坐旗舰定远号督战，他用望远镜一看，见日本舰队如一字长蛇，遂下令开炮，冀图把对方的阵形打散，可是两军之间的间隔还有九海里，因此清军的炮弹大多数落在海面，激起了无数浪花，打死了无数鱼虾。日本舰队这时并不还击，只是开足马力前进，去抄袭清军的背面。日本海军统帅是伊东祐亨，他命令日舰驶入大炮射程以内，才下令开炮。日炮都是大口径，日舰速度又快过清舰，于是在日炮集中轰击下，清军超通舰首被击沉。清军这时慌了手脚，阵势也乱了，一场激战，前后仅只四小时，清舰队惨败，超勇、扬威、致远、广甲四舰被击沉；经远、广丙被俘；剩下定远旗舰和镇远、来远、济远、平远等舰狼狈逃回旅顺港，不敢出战，黄海的制海权遂全部由日本海军所掌握。
日军在陆上和海上都已获大胜，但是它并不满足，在朝鲜的日军攻占平壤后，继续向鸭绿江南岸推进，而清朝的大军则猬集九连城，清廷下旨逮问叶志超，另派宋庆总统各军。宋庆是湘军系统，但资望甚浅，各军不愿受其约束。这时清军合起来不下70余营，但宋庆无法指挥，又非善战骁将，胸中毫无韬略。大敌当前，他竟不以重兵扼守鸭绿江沿岸，阻截日兵渡江，仅以少数哨兵据守江边。光绪廿年九月二十六日（1894年10月24日），日军强渡鸭绿江，宋庆只得放弃九连城，仓皇退却，日军乘胜急追，又占凤凰城和摩天岭；另一支日军则由新义州渡江北上，攻陷安东、岫岩州、析木城、直逼海城，截断了清军退路。
日本海军由大山岩率师进窥大连、旅顺，原在旅顺的北洋舰队已闻风先逃，而陆军驰守旅顺的部队则已开至九连城增援，接防旅顺的是提督姜桂题、程永和所募的新兵。十月九日，日军攻陷金州，分三路进逼旅顺、大连，不到一个月工夫，旅顺、大连相继被日军占领。
清陆军已然溃不成军，不过残余的海军尚逃匿威海卫，日本军方毫不留情，要彻底消灭清朝海军，因此向威海卫发动攻势。光绪廿年十二月二十五日（1895年1月10日）自荣成登陆，向西攻击，以拊威海卫之背。光绪廿一年正月初五日（1895年1月30日）攻陷威海卫炮台，同日，日舰25艘包围威海卫港口，海陆两军夹攻停泊在刘公岛的大清北洋舰队，海战爆发，定远和来远两舰中鱼雷沉没，靖远则被大炮击沉，丁汝昌眼见大清海军败得如此凄惨，自己身为海军统帅，有何面目上岸，因此放声痛哭，仰药自尽。丁汝昌一死，北洋舰队大小军舰30余艘，高竖降旗，悉为日本俘获。
当时清朝的海军可分为北洋、南洋、闽洋、粤洋四支，北洋舰队最强最大，四支海军互不相属。甲午年春间李鸿章主持海军大会操，粤洋舰队的广甲、广乙、广丙三舰被檄调参加会操，操毕恰遇战争，遂并入北洋舰队以壮声势。六月廿三日，广乙护送高升轮载兵往牙山，遇敌火攻，两船被毁。八月十八日鸭绿江之战，广甲逃回大连，中途搁于沙碛，亦告沉没。广丙则为日军所俘。接洽投降的道员牛道竟致书日本受降的海军提督伊东祐亨说：
“广甲、广乙、广丙三舰向隶广东，冠以广字可为证明；查广东一省，本与军事不相干涉，今甲乙之劫，仅存一丙，北洋已无以对广东，望贵提督念广东为局外之义，并思该舰管带张副将（实系程璧光）日来有往返传语之劳，可否提出该舰，即交与该副将带回广东，俾得于总督前略存体面，不胜感激。”
中日两国在朝鲜开战后，李鸿章委直隶臬司周馥办理东征转运事宜。周馥邀袁世凯襄助，袁乃赴凤凰城设局，这时候日兵已将渡鸭绿江而西。扼江的清军各路统帅如宋庆、刘盛休、马金叙等兵杂将嚣，毫无纪律，索械索饷，随给随弃。
袁世凯就清军的后勤补给作了一个全盘的建议，他说：
“新民厅在榆关至凤凰城中间，东扼辽河，水陆通衢，奉北杂粮，辐辏于此，宜设粮台，厚储粮饷，按前后要站，分设官车，随时协雇民车，分段转运。盛京以东亦有数处当可采买，拟于驻兵处就近买存。总以新民厅为根据地。”
光绪廿年（1894年）九月，日军渡辽河，马玉昆、宋得胜力战败北。宋庆拟退扼摩天岭，袁认为日兵必分三路进，徒守一路，无济于事，这时他害肺炎，力疾赴辽设饷局所。而日军在岫岩州花园口下游登陆，分两路进军，一支向大东沟，一支向皮子窝进发，防守的清军疲于奔命。十月袁至望宝台，溃兵抢掠运局车马，袁搜截数百人，杀戮数人，才阻遏了抢掠。
清军无论训练和作战、都是旧法，日军已完全西法，两相对比，不堪一击，袁据此给了盛宣怀一个电报云：
“西人用兵大概分为四排队，前一排散打，败则退至第三排后整队，以第二排接应，轮流不断，后排队伍严整，亦以防包抄傍击。又队后数里驻兵设炮，遏止追兵，掩护残卒，虽败不溃。今前敌各军平时操练亦有此法，乃临阵多用非所学，每照击土匪法，挑奋勇为一簇，飞奔直前，宛同孤注，喘息未定，已逼敌军，后队不敢放枪，恐误击前队。只恃簇前数十人，拥挤一处，易中敌弹，故难取胜。后队又不驻兵收束，一败即溃。请告统帅，饬各军照西法认真练习。”
又说：“刘盛休军事以溃掠为事，毫无战志。聂士成军兵不过千余，又精壮俱殁，吕道生军亦伤亡大半，实难再战。莫若调回整顿。……宋庆南援，似知岭不可守，退难过沈，故请作游击之师。事势至此，惟有停战议和，较为合算。”
光绪廿年（1894年）十二月，清廷派两江总督刘坤一督办关外军事，驻节榆关。光绪廿一年（1895年）二月牛庄、营口相继失陷，李鸿章奉命赴日本议和。袁向刘坤一陈说战略：
“管见用兵必须尝罚公平始足以资鼓励，我公驻关督师，应请随时分别贤否，立予抑扬，庶诸将咸知惩劝，冀可挽救。查马玉昆胆识兼优，宋得胜忠勇成性，均叠经苦战，始终如一。似宜请旨嘉奖，俾益加奋勉。吴凤柱、徐邦道兵多骚扰，不知自爱，似宜申斥，俾知警惕。营口防营蒋希夷委弃重地，肆行克扣，似宜俟兵队解散后，从严参办。此五人只举其尤，时艰至此，惟望淑慝先分，庶中材皆知激劝。”
光绪廿一年（1895年）正月，袁复赶返前所（地名），与聂士成会晤。二月返石山站，牛庄和营口相继陷落，于是清廷下诏派李鸿章赴日本议和。这时，由于清军海陆均惨败，举国震动，朝野哗然，众谤集于李鸿章，有谓李鸿章私通日本，“用一卫汝贵而百战之淮军化为叛卒，用一丁汝昌而大桅之铁甲尽属漏舟”，有人竟参奏李鸿章的亲信运军火接济日军。大家不相信中国会败于日本，遂将战败责任诿诸李鸿章。李奉命接洽议和，不敢成行，因西太后正在生病，而光绪不允割地。在这和战未决的当口，日军扬言将北取辽阳，西攻山海关，清将长顺、依克唐阿匆遽告急，而关外各军亦争弃防地，纷纷后退，自相惊扰，不久辽南和牛庄亦告陷落。
清朝的海陆大军都已彻底溃败，局势演变到了非和不可，清廷这才再下谕旨，责成李鸿章前往马关与日本订城下之盟。
光绪廿一年（1805年）二月，清廷正式向日本求和，并派遣日方所指定的李鸿章为谈判代表。这时日军已陷威海卫和辽东半岛，北京危如累卵。李鸿章和日本首相伊藤博文、外相陆奥重光于三月廿日在马关举行首次会议。李鸿章和伊藤本系旧识，两人见面甚为亲切，一谈就谈了三个多小时，在这次会议上，李代表战败国，一切都立于不利地位。日本因为是战胜一方，所以条件极为苛刻。
当马关和会开始后的第三天，就是三月廿四日，李鸿章竟在会后返回旅邸途中，被日人狙击，子弹轰入面颊，登时晕绝。当他苏醒后，拒绝停止会谈转而就医，他说，“国步艰难，和局之成，刻不容缓，岂能延宕误国，宁死不愿就医。”他的衫履满布鲜血，李鸿章慨然说：“此血所以报国也。”他有马关记事诗一首，诗曰“劳劳车马未离鞍，临事方知一死难；三百年来伤国步，八千里路吊民残。秋风宝剑孤臣泪，落日征旗大将坛，寰海尘氛纷未已，诸君莫作等闲看”。
日本自信可以战胜中国，不过未料到胜得如此迅速和容易，途一经开战后，清朝竟如此的不堪一击。日本食髓知味，因此野心大增，得寸进尺，在谈和时并不停止军事行动，俾求议和条件