李鸿章等人的洋务活动遭到了封建顽固派的诅咒、谩骂。光绪二年（1876），江西巡抚刘秉璋还给任直隶总督的李鸿章写信，说李鸿章爱谈洋务是“冒险”，以至于“受到诽谤”，为他“三叹息”。李鸿章回信说：
“至于我喜欢听洋务的话以至于有些冒险、受到诽谤，我认为处在当今之世而喜欢谈洋务是适时的，人人怕谈、人人厌谈，大事临头不是慌张就是鲁莽，没有不误事的。你们可以不谈，如果我也不谈，天下靠什么来维持呢？中国日渐衰弱，洋人日益骄横，这难道是一个人一件事的过错吗？从今以后，能自强方可以自立，如果不自强国事就很难说了。您为我‘三叹息’，可惜叹错了地方。”
他对办洋务是颇有点儿决心的。当然，我们对李鸿章等人的洋务活动估价不能太高。一方面，我们承认李鸿章等人做到了他们的前人所没有做到的事；另一方面，他们出身在那个营垒，阶级的偏见阻断了他们的视线。李鸿章在办洋务的初期就曾说过：“中国唯有武器不如西洋，而文武制度远远超出西人之上。”这样，他们只学武器制造，不论其他，对西方政治制度竟不屑一顾。其后，虽然办起了民用工业，进一步承认这些方面也不如外洋，但仍然认为中国典章制度、道德文章完美无缺。
梁启超在戊戌变法失败后说：
“同治初年，创巨痛深。曾国藩曾借洋将，渐知西人之长，创制造局以制器译书，设方言馆，创招商局，派出洋学生……变法之事，于是荜路开山矣！”
这里说的是曾国藩，但实际上，所举的几个例子都是应当记在李鸿章的名下。可以说，这期间，李鸿章等人所进行的洋务活动，在近代中国确实起了开风气之先的作用。
曾经被清王朝的“军门”大人视为“妖法”的洋枪洋炮，在中国横行了20年，当时除了少数有识之士外，对中国士大夫来说，只是莫名的恐惧，以致“谈鬼色变”，谁也不曾想过去探索其中奥秘。在镇压太平军的战场上，李鸿章终于认识了它的“妙用”，并开始仿效，他创办了中国第一个大型兵工厂——江南机器制造局。
江南机器制造局创办于同治四年（1865），但在这之前，李鸿章早就在进行军火生产了。
同治元年（1862），李鸿章率淮军进驻上海。为镇压太平军，他向外国购买了大量洋枪洋炮。但战事正紧，弹药用量甚大，只好向外国人购买。当时买一颗从英国军舰上偷来的12磅炮弹要30两白银，买一颗破旧的铜帽也要花19两。那时几乎天天打仗，枪炮一响，成千上万两白花花的银子便化做了飞灰。朝廷所拨经费十分有限，李鸿章为此发愁。经常往来的一个英国人马格里，对李鸿章说：“外国人都是自己开工厂制造军火，中国如果为自己的利益着想，也应当建个制造厂。”李鸿章欣然同意，就让马格里去试制。几天之后，马格里造出了第一颗炮弹和几个炮引，交给李鸿章。李鸿章拿去请英国提督士佛立鉴定，得到士佛立的称赞。于是，李鸿章就让马格里自己去招募50个工匠，在一座破庙里办起了小工厂，称为上海洋炮局。
这个工厂，除了几样简陋的手工工具之外，几乎一无所有。工匠们到田地里挖籼土制造坩埚，熔化铜铁，完全采用原始的操作方法，近于手工工厂。
同治二年（1862），李鸿章攻占了苏州，命马格里将上海洋炮局迁往苏州，成立了苏州洋炮局，地址设在太平天国纳王府，占地比上海大得多。马格里又买了一批机器，有点儿像工厂的样子了。苏州洋炮局每星期可生产1500K 2000发枪、炮弹，还试制了规格不同的枪炮。
苏州洋炮局初具规模，生产颇有成效，成为当时中国最先进的军火工厂。为此，同治三年四月（1864年5月），总理衙门的主管官员奕（左讠右斤）奏准，由保卫宫廷的火器营中选出了8名武弁，40名兵丁送往苏州学习。李鸿章一时成为洋务派中的主将而身价百倍。
同治四年（1865），清廷命两江总督曾国藩为钦差大臣，主持镇压捻军事务，驻节徐州；李鸿章署理两江总督，移驻南京。李鸿章就把苏州洋炮局迁到南京，成立了金陵制造局。
金陵制造局在南京中华门外的瓷塔山（因山有瓷塔而得名，1842年英舰炮击南京时破坏，即今雨花台），其规模又有扩大。
自上海洋炮局到金陵制造局，在李鸿章直接主持下生产了大量的枪炮子弹。李鸿章的幕僚薛福成说：
“淮军各营，都分别练成洋枪队……于是夺取苏州，攻拔常熟，连克嘉兴、湖州诸城。如果不是借助于威力强大的武器，不可能这样既狠又快。”
这些“威力强大的武器”，大多为李鸿章所制造。
同治四年（1865），容闳命人押运一批机器，绕道好望角，回到上海。这批机器就为李鸿章所有。
此时，上海道道员丁日昌给李鸿章写信，告诉他：上海虹口有一个外国人的铁厂，能修造大炮、洋枪及轮船，外国人愿意出售，要价10万两。李鸿章颇愿买下，但经费拮据，哪来的10万两巨款？正好有个充任过海关道翻译的人叫唐国华，曾被革职，他愿意拿出现银4万两赎罪，以图启用。李鸿章立即上奏清廷，力主做成这两桩买卖。经过多方努力，上海机器制造局于同治四年五月（1865年6月）成立。局址在今天上海市虹口区九龙路、溧阳路沿江一带。
江南制造局分几个部分（分厂）：一是制造枪炮的军火工厂，二是制造轮船、修理船舶的船厂，三是炼钢厂，四是火药厂，五是机器制造厂。它逐步发展成了一个大型的综合工厂，在当时的中国，可算是独一无二的。除此之外，该局还附设了译书局，专门翻译外洋书籍。全局占地700余亩，颇具规模。
自同治六年（1867）至光绪二十年（1894）的27年间，该局共生产各种枪支51285支，大炮585尊，水雷563枚，炮弹12万多颗。这些武器弹药除供应淮军之外，还供应南洋系统及各地的炮台、军舰，各总督所辖地区的军队。这些产品由政府统一调拨，不具有商品性质。该局的军火生产也不以赢利为目的。
江南制造局从一开始便专设了一个分厂专门制造轮船。曾国藩、李鸿章等认为，以往轮船都向外洋购买，长期下去，中国永远不会掌握造船技术。他们决心自己设厂制造。
同治七年（1868）八月十三日，江南制造局自制的第一般轮船下水，曾国藩亲自命名为“恬吉”。这艘船长18丈5尺，宽2丈7尺2寸，392马力，载重600吨，船身为坚木制成，显然比较落后，但它毕竟是中国自制的第一艘轮船。曾国藩十分高兴。是日上午9时许（已正2刻），恬吉轮下水，在吴淞口试航，入大海，至舟山而回；后来，又上溯至南京下关，曾国藩亲自登上轮船，驶往采石矶，再返回下关，前后2小时。曾国藩高兴地说：“中国自强的根基，也许就在这里吧！”他充满了希望。当时，李鸿章正在山东前线，没有亲自看到这艘船下水，但他也是兴奋不已。
中国自造了第一艘并不先进的船，但却引起了各方的关注。英国领事向国内作了汇报，各外文报纸纷纷报导，连深居九重的慈禧太后也表示了关心。这年12月曾国藩去京朝觐时，慈禧还专门询问了有关情况。
捻军镇压下去之后，李鸿章任湖广总督，后又调任直隶总督。他始终对江南制造局予以过问，特别对造船的事比较重视。自同治八年（1869）到光绪十一年（1885）该局又先后造成了操江、测海（1869）、威靖（1870）、海安（1873）、驭远（1875）、金瓯（1876）、保民（1885）等几艘轮船。其中海安后改名为海宴，因为李鸿章的父亲叫李文安，“安”字犯了讳，一个姓冯的道员为讨好李鸿章，作了更改。海安号和驭远号都为1800马力。李鸿章在给清廷的奏章中说：“这种船在外国属第二等，在中国则是头等的了。”这种船还是木质。光绪二年之后所造的金瓯和保民两船则改为铁甲了，可惜自保民号下水之后，再也没有造过一艘新船。
尤其值得一提的是，江南制造局还生产了一批机器。自1867年至1904年，该局生产的机器有车床（138台）、刨床（47台）、钻床（55台）以及挖泥船、翻砂机、起重机（84台）、抽水机（77台）等，其种类达五六十种。这些机器有一部分运到天津，北洋大臣崇厚就利用这些机器，创办了天津机器制造局。李鸿章上疏时颇为得意地说：“制造机器一事，为今天抵御外侮的资本、自强的根基。”
为制造枪炮、轮船、各种机器，江南制造局还开办了炼钢厂。这是旧中国钢铁工业的肇始。光绪十六年（1890），江南制造局总办刘麟祥在报告中说：“造枪炮所用的钢料，全部从外洋购买，价格昂贵，运输不便，很不合算。而且，平时往来运输纵然不便，还没有阻碍，一旦爆发战争，海路阻塞，轮船就无法进码头，中国内地又买不到，这样就不能不停工待料，以致贻误军事。这件事关系重大，所以，请求自炼钢铁。”这个要求自然也反映了李鸿章的思想，得到了清廷的批准。于是，向英国购买了高炉等，同年开始生产。
自光绪十六年起，该局钢产量不断增加。光绪十七年（1891）仅产10吨钢，十八年达63吨，二十年达342吨，最高的光绪二十三年（1897）产2059吨。这个数字今天看起来未免少得可怜，但百余年前却是一件了不起的事。中国终于炼出了自己的第一批钢材，这是李鸿章的前人们所没有做过的事。
