湘军水师在镇压太平天国起义的过程中,曾国藩便萌生了将湘军水师改为长江水师的想法。攻克南京以后湘军水师开始改制,历经5年长江水师的各项规章制度才逐步完善。长江巡阅使和长江水师提督是长江水师最主要的高级将官,整个晚清时代长江水师的高级将官职位基本上被湘淮集团所控制。长江水师在改制之后,军纪逐渐败坏。清廷派彭玉麟主持水师工作,上下巡阅长江,对水师进行整顿改革。到了后期由于长江沿岸会党活动频繁,端方又对长江水师进行改革,建立了长江巡缉队。晚清以来,长江水师的军备力量一直非常落后,清政府历次要求对长江水师进行裁撤改革,但一直都被湘淮集团所阻挠,延缓了长江水师的近代化进程。由于长江水师由湘淮集团所控制,清政府对这支军队非常忌讳。在改制初期就百般限制,改制之后中央与地方也是矛盾重重,中央多次想裁撤长江水师,而湘淮集团官员则极力保护这支军队。虽然长江水师没有转化成近代化的军队,但在近代中国历史上还是发挥了很大作用。