张之洞晚年曾说： “练兵一事，鄙人心性命之学。” （《电梁盐道》，《张文襄公全集》卷188，电牍67，北京文华斋刻本，1928。）“盖痛干国力危弱，无日不以整军经武为念也。” （张秉铎：《张之洞评传》，第116页。）因此，张之洞非常重视近代军队建设，并成为中国近代化军队的创始人之一。
第一节 改革军制，裁旧练新
清朝原有的正规军队是八旗和绿营。八旗是由旗人组成的军队，绿营是由汉人组成的军队。在镇压太平天国过程中，腐败落后的八旗、绿营无法抵抗太平军的进攻，于是出现了曾国藩、李鸿章组织的湘军、淮军。
19世纪60年代初，湘军、淮军开始使用新式武器，配备洋枪炮。由于湘军、淮军系由曾国藩、李鸿章等人招募而来，粮饷自筹，兵以将领为中心，军队归私人所有，这种临时招募的非正规军队当时称为勇营。镇压了太平天国之后，曾国藩的湘军旧部基本上被裁减，左宗棠所部湘系防军因在西北作战，没有裁减。经左宗棠等奏请，清廷将湘军、淮军变成了国家的正式军队。从此较大的城镇和战略要地，多由勇营防守。各省的勇营也留防各省，所以又有“防军”之称。
在19世纪60年代初，清政府还在直隶绿营兵中挑选了部分士兵，依据湘、淮军营制，配备新式武器，加强训练，称为“练军”。在清政府编练新式陆军之前，清朝军队的军制极为复杂，既有八旗、绿营，又有湘军、淮军、防军、练军，全国没有统一的军制。
在军队建制方面，虽然采用了部分西式武器和操典，但军队建制仍维持勇营和绿营的组织形式，以营为单位，每营约300—500人，各营互不统属，作战时临时组合。在武器配备方面，也十分杂乱，既有大刀长矛，又有洋枪洋炮；新式武器来自各国或各省军工厂自造，种类和规格极不统一。同时，这些军队派系林立，军风腐败，严重影响军队的战斗力。
早在清流派时期，张之洞对洋务派提出的建立近代军事工业，训练新式军队，深表赞同，希望多购外国战舰；并向朝廷建议“仿制德国新式，增强炮台”，购买西方的军事名著《防海新论》，翻译后“分发诸将细心讲求？以求实效”。（《张文襄公全集》卷2，奏议2，北京文华斋刻本，1928。）
张之洞出任山西巡抚后，发现传统军制存在种种弊端，非改革不敷时用。他在《筹改营制折》中论道：“绿营积弊无可挽回，勇营、饷营、章营制均胜绿兵，而其兵在随将领为去留，不与地方相维系，且不习风土，亦往往有迁地弗良之时……拟将通省绿兵减额加饷，一律改为练军，大率参制兵勇之制而用之，取勇营之简易，参以制兵之持久，化饥为饱，化散为整，化板为活。” （《筹改雷制折并单》，《张文曩公全集》卷8，要议8，北京文华斋刻本，1928。）
张之洞将晋省裁改兵制应议事宜分列十二条，即改定营名、修建营房、分防移调、练习火器、出省加饷、统领公费、长夫限制、支食廉俸、分设汛弁、变通借补、改铸印信、暂留守兵。根据这个设想，张之洞便着手筹办山西练军，继而筹议山西主兵，他在奏章中说：“今次缴商路日开，西陲藩篱未固，海防边防皆不可缓，……臣意欲办山西练军，以备他日推广，不独为巡缉计，亦不独为一省计。” （《张文襄公全集》卷2，奏议2，北京文华斋刻本，1928。）“果使此军练成劲旅，不惟可以挑补晋省练军，沿边万余里，随处皆可用之。” （《密陈北军应练片》，苑书义等主编：《张之洞全集》卷6，奏议6）
张之洞筹编山西练军，标志其军制改革思想与实践的开始。
经过中法战争，特别是中日甲午战争的检验，张之洞感到旧式军队很难适应近代化战争的需要，急需编练一支适应近代化战争的新式军队。
在1895年，他总结旧军制有七大积弊：“人皆乌合，来去无恒，一弊也。兵皆缺额，且充杂差，二弊也。里不确，良莠不分，三弊也。摊派刻扣，四弊也。新式枪炮，抛弃损坏，五弊也。营垒工程，不知讲求，六弊也。营弁习尚奢华，七弊也。” （《清史稿》，志114，兵10，第4129—4130页。）
张之洞认为，只有仿行东西洋各国，裁撤旧营，推广新式军制，才能从根本上改变军队涣散、国防空虚的被动挨打局面。当然，旧式军队的裁撤，难度很大，不可能一蹴而就。张之洞建议朝廷分年裁撤，不分马、步、战、守，每年裁1／20，20年裁完。他率先在湖北推行裁汰旧军之举。
1897年，奏请将马战守兵7715名，分为五年裁减完毕，以“裁整不裁散，裁兵不裁官，为人手之方法” （张继熙：《张文襄公治鄂记》，第24页。）稳妥地解决裁旧问题。同年7月，张之洞根据甲午战争失败的教训，上奏《吁请修备储才折》提出九条应急措施，并将“宜亟练陆军”、“宜亟练海军”列为第一、二条。
在暂署两江总督任内，张之洞编制新式陆军“自强军”，自强军的编制全部仿照德国军制，聘德国人来春石泰等35人担任教练和营哨指挥官。
自强军编制步队八营、炮队二营、马队二营、工程队一营，共十三营。其建制为步兵每营250人，分五哨；炮兵每营200人，分四哨；马队每营180人，分三哨；工程营100人。各营还配备有医官、枪匠、兽医等后勤保障人员。
自强军是一支包括步兵、炮兵、骑兵三个基本兵种和一个工程兵的部队，不仅仿照德国陆军的操典、训练、战术和使用欧洲陆军常用的后备枪炮，而且突破了清朝军队以营为最大单位，不分兵种、各营互不统属的旧军制。自强军练成后，与旧式军队相比，确实有了新的变化。梁启超在《记自强军》一文作了如下描述：“所闻自强军者，全军操练仅八阅月，马军乃一月有余耳，而其士躯之精壮，戎衣之整洁，枪械之新练，手足之灵捷，步伐之敏肃，纪律之严谨，能令壁上西士西官西妇观者百数，咸拍手咋舌，点首赞叹，百吻一语日： ‘不意支那人能如是，能如是。”’ （梁启超：《饮冰室合集·文集之二》，第32页，北京：中华书局，1989。）
自强军是中国最早的近代化陆军，在中国近代军制史上是一个重大的转折，所谓“北洋则有新建军，南洋则有自强军是为创练新军之始”。（梁启超：《饮冰室合集·文集之二》，第32页，北京：中华书局，1989。）因此，自强军成为各地编练新式陆军的楷模。
1896年初，张之洞从两江返任湖广，以更大规模编练新军。经过十年经营，编成陆军第八镇和暂编第二十一混成协，称为“湖北新军”。据1907年统计，第八镇有官700员，镇统张彪，兵1·05万名；第二十一混成协有官280名，协统黎元洪，兵4600名。
