且立法之初，当规久大之计。柔远之事，必择专精之人。今日求一二精于洋务者，尚难其选，而谓此后数十百，沿江两督四抚，一一求精于洋务者而为之，岂可得哉？臣愚谓此缺似不可裁。宜改为长江通商大臣，专办滨江四省中外交涉事件。或驻镇江、金陵，或驻汉口、九江，添设官属书役若干，廉俸经费若干，应请赖下总理衙门会同该部核议。其汉人洋人之大小词讼，在沪、在鄂之正、子各税，何者由通商大臣专决，何者归总理衙门核复，亦应与驻京公使熟议。其北洋三口通商，事同一律，均宜讨论职掌，永定章程。区区愚见，盖为数省计久长，非为一人图推诿也。
从当时和今后两个阶段来考虑，精通洋务的人难以获得，而这又是至关重要的大事，因此曾国藩提出南洋通商大臣不能撤，但是可以更名为长江通商大臣，专门负责办理湖北、江西、安徽、江苏四省通商事务。
建立新式军队
建立一支自强的军队，是曾国藩弱国外交领导艺术的重要内容。没有强大的军队作为后盾、没有强大的国力作为基础，外交不可能得到保障。
中国之兵能战能守，自上至下，时时可以对人，使彼无轻视之心，而后有敬服之渐，庶几潜移默运，转弱为强。
曾国藩所追求的就是建立一支这样的军队：能战能守、自立自强，从朝廷到地方，件件事情都可以对付洋人，让他们没有轻视的心理，然后让他们渐渐产生敬畏之心。只有这样，中国才会潜移默化，转弱为强。为此必须对中国军队进行改造与建设。对中国军队的改造与建设，曾国藩主要从两个方面进行，即改造陆军，建设海军。
陆军的改造始于使用洋炮洋枪与学习西方军队的训练法。曾国藩创建湘军之初，就着重建立一支新型的军队，当然开始还是主要在建制、用人上进行创新。随着战争的进行，湘军逐渐使用洋枪洋炮，曾国荃的部队就配备了大量的洋炮。淮军建立后，大量使用洋枪，李鸿章并且派人随英法军队学习训练法。到了1865年，淮军已成为一支以使用火器为主的部队了。曾国藩担任直隶总督后，一项重要的工作就是军队的改革。他制定了以湘军规制为基本的军队训练制度，打破了绿营的陈规陋习，建立了一支有3000人的新式练军。这些改革对晚清军队的革新起到了重要的作用，军队的战斗力也随之增强。
建立海军，当时称为“外海水师”，是一大创举，从此中国人开始注意广阔的海洋，不再拘泥于茫茫陆地。曾国藩认为建立外海水师，“专泊洋面，无事则承运漕粮，有事则首尾相应，明靖内奸，暗御外侮，举一事而数善备，实属体大思精。”因此非常重视海军的建设工作。在海军的组建上，重点从四个方面下功夫：
第一，制造战船。船是海军的根本。没有船，建设海军就是纸上谈兵。在与太平天国的角逐中，曾国藩建立了一支很有战斗力的长江水师，由杨岳斌、彭玉麟为统领，所向披靡；但是长江水师依靠的是木船，长龙舢板等等，能够行走于江湖，却不能进入洋面。他认为：
海上之水师，与江面之水师不同。江则轻舫小艇，已为利器。海则非有坚重轮船，配用巨炮，断不能自立以与敌争衡。
认识到海上用兵与江湖水师的区别，这是制定正确的建设海军政策的基本前提，也是建好海军的关键所在。因此建设海军从制造轮船开始，是建立海军的根本举措，也是最有效的举措。
鄙意欲令三江两湖之人狎于水性，可江可海，多立船厂，自轮舟至各式船中，中国工匠皆能成造，庶几渐有可用之器，渐有可用之兵。一旦有良将出焉，则不至豪无凭借。与阁下捍御外洋之志，似亦小异而大同也。
曾国藩在世时，主要建立了两个造船厂，一个江南制造局，由他本人和李鸿章一手操办，一个是由左宗棠在福建建立的福建造船厂。到曾国藩逝世前，福建船厂已经制造了16艘轮船，江南船厂也在加紧生产；为海军的组建奠定了物质基础，成为中国海军的最初物质力量。
第二，强化训练。抓海军的训练是当务之急，是重中之重。对此曾国藩一直耿耿于怀，没有松懈过。由于当时的军队以两湖三江的人为主，而这些人对海洋并不熟悉，“江楚之人不常居舟”，“能行于陆不能行于水”，“能行于江湖不能行于外洋”因此他非常强调海上训练。他认为：
纵使轮舟果极精坚，若吾三江两湖之将士不能履海洋如枕席，终不能保长江之险要；不能防江苏之洋面。
所以他在确定长江水师章程与江苏章程上，都把不许将士登岸作为“第一义”，要求将士长居轮船之上。对那些轻易离开轮船的将士要做出严肃的处理，“勇则除粮，将则降革职”。轮船刚刚修造的时候，轮船制造技术比不上外国兵船，配备了大炮洋枪，也不能和外国兵船抗争；而海上招兵买马还没有议及。因此曾国藩提出：“兹当闽、沪两厂船成之时，即当于两处选立统将，慎则船主出洋操练”，当第一批船下水后，曾国藩立即指出 ：“南中切务以训练水师为第一义，必使长江上下无兵不惯住船，滨海各口无船不能自造，方可徐图自强。”把训练作为第一义，摆在重要的位置，加以落实。目的就是“令将士履海洋如枕席”。 就是“逐日操演，需以岁月，可与外国兵船操法并驾齐驱，且使人人如临大敌，习惯以成自然。”训练海军，对于刚刚起步的中国海军来说，可以说是抓到了点子，打到了七寸。
第三，制定沿海沿江防御规划。1870年9月27日曾国藩觐见慈禧太后，在与慈禧的对话中，有一个问题是关于海上防御的问题。曾国藩说：
洋人实在可虑，现在海面上尚不能与之交战，惟尚设法防守。臣拟在江中要紧之处，修筑炮台，以防腑轮船。
从这里我们可以看出，曾国藩建立海军的目的主要是防御。他提出：“异日中国全盛，洋人衰弱，我亦但求保我黎民而别无耀兵海外之心”。等到将来有一天，中国强大了，洋人衰退了，中国也只求自保，不会耀兵海外，侵略他国。这种思想是一种典型的防御卫国思想，在这种理念的指导下，曾国藩在海军建设与规划上，侧重点就是自强御侮，就是防御第一。具体的规划上，则是依托沿海沿江的地理优势，构建陆海一体化的防御体系。当时中国有18个行省，其中滨海的有广东、福建、浙江、江苏、山东、直隶等省，滨临长江的有安徽、江西、湖北等省，加上奉天。这10个省，洋船都能够在挥手回头之间达到，而且十分富庶，特别是江浙一带，更是天下财富的首善之区，清朝税赋一般多出自那里，因此加强防御非常必要。对于这10个省的防御工作，曾国藩作了周密的部署。他指出：
前任江苏巡抚丁日昌曾与臣言及海防之道，数省当合并办理。直隶、山东归并设防，而以直隶主政。江苏、浙江归并设防，而以江苏主政。广东、福建归并设防，而以广东主政。分立三大镇练兵制器，专精筹备则力厚，而气不散漫等语。臣因就其说，而推之以奉天亦可归并北防，仍由直隶主政。沿江之安徽、江西、湖北三省亦可归并设防，而以湖北主政。
曾国藩在采纳丁日昌建议的基础上，对沿海沿江的防御体系做了具体的部署，确定了四大防区，即沿海三大防区与沿江防区。沿海三大防区包括直隶、江苏、广东防区，分别负责直隶、山东，江苏、浙江，广东、福建防务；沿江防区即长江防区，安徽、江西、湖北三省为主，负责长江流域防务。沿江防御体系曾国藩在世的时候即已初具规模。按照曾国藩的规划，沿海七省共练兵九万，少的一万，多的或二万或一万数千。沿海防御体系在曾国藩逝世后不久即逐渐成为事实。1874年日本进兵台湾，并企图将其占领，被清兵战船驱逐。这件事引起了朝野警惕，构建海防体系提到议事日程。
恭亲王提出了“练兵、简器、造船、筹饷、用人、持久”等要求；原江苏巡抚丁日昌提出了《拟海洋水师》章程，建议建立三洋海军；李鸿章提出暂弃关外、专顾海防。在洋务派的一致努力下“海防”之论压倒“塞防”，清政府决心加快建设海军。主要建立即北洋、南洋、广东三大海军。三大水师的构想与防范区域与曾国藩三大沿海防御体系是一样的。1875年5月30日，清政府任命沈葆祯、李鸿章分任南北洋大臣，筹备白银400万两作为海军军费，李鸿章通过总税务司赫德向英国订造4舰炮船。1879年，向英国订造扬威、超勇巡洋舰。1880年，向德国船厂订造定远、镇远铁甲舰。1881年，建立旅顺和威海海军基地。1885年，成立海军衙门。1888年12月17日，北洋水师在山东威海卫的刘公岛正式宣告成立，同日颁布施行《北洋水师章程》。从此，近代中国正式拥有了一支在当时堪称世界第六、亚洲第一的海军舰队。随后相继建立南阳水师与广东水师。
曾国藩虽然没有直接参与建立中国近代海军，但是由他反复倡导、强调、规划的海防体系最后由他一手提拔的李鸿章、丁日昌、沈葆祯等人实施，与由本人直接参与实现基本无异，他的倡导之功、规划之功，不可磨灭。
第四，制敌之方。在中国海防体系的建设上，曾国藩创造性提出了海陆结合的建设思路。与英法美俄等国的水师相比，中国水师仅仅是一个起步，一个开端。处于初始阶段的中国水师要与洋人水师一逐高低，必须在建设方略上有不同别国的长处，才能达到以己之长克敌之短的目的。曾国藩提出的海陆结合的建设方略体现了他依托陆地、借助海洋建设三大沿海防区的思路，具有现实性、可操作性。他指出：
闽省前经奏明，成造轮船十六号。将来沪厂亦须造十六号，各以数号为水师兵船，其余以为货船，平日租赁商贾听装货物，有事则装载陆兵，互相救援，南北江海十省，均不过数日可到。以陆兵为御敌之本，以轮船为调兵之具，海道虽甚遥远，血脉仍极贯通。十省之中，主持防务者四省。枪炮、子药、米粮、杂物，四省多为存储。一遇调兵，则各件皆有轮船运之同行。平日无事，即有轮舟载送，各省习惯而渐成自然，出洋而如履庭户。洋人长于水师，断非中国所能及。至其陆军野战，则淮勇前在苏沪亦常与洋将洋兵角逐争胜，尚非殊绝不可及者。若能多练陆兵，而以舟轮装载驰援，驭远如近，似亦制敌之方，此臣妄拟规划全局之略也。
这个规划三个特点：一是以陆军为本的思路。战时轮船主要用来用送士兵，将敌人引至陆地作战，发挥我军陆地作战的特长，避免在海上与敌人冲突。因为海上力量还不强大。“洋人长于水师，断非中国所能及。”按照当时的实际还是要强化陆军的训练，用轮船装载士兵，送到远处开展野战，以期达到克敌制胜的目的。这个思想应该是符合当时实际的，若能够按照这思想指导中国海军作战，效果应该是明显的。二是十省联防思路。建立水师后，十省路途立即拉近，哪一个省出问题，遇到战事，其他九省立即可以支援。四大防区为主的那个省，平时要多储备枪炮、子药、米粮、杂物，以备不时之需。三是不打仗时，轮船出租给商人，以船养船，用来运送货物。这对于当时捉襟见肘的政府财政，未尝不是一种补偿。
