张建国于1982年毕业于天津财经学院，金融科班出身。如那个年代的许多金融学子一样，张建国一毕业就进入了人民银行天津分行。1984年，当工行从人民银行中分出，张建国随即进入工行工作。
　　2004年5月，张建国出任交行行长，几年间，他稳步推动了交行一系列脱胎换骨的改革，并成功带领交行实现香港上市。
　　2006年7月，张建国从交行行长任上调任建行行长，接替辞职的常振明。对建行来说，彼时正处在推进在股改的关键时期，选择一位合适的行长尤为关键。建行董事会当时这么描述张建国：建行董事会认为张建国长期在商业银行工作，具有丰富的经营管理经验，是建行管理团队的合适领导人选。
　　张建国任职的五年，对建行来说也是翻天覆地的五年。
　　期间，建行于2007年9月实现在上交所挂牌上市顺利回归A股，建行总资产由5万亿元达到目前的近12万亿元，手续费及佣金净收入在营业收入中比重由当时的不到9%升至目前的超过24%，资产规模大幅增长的同时盈利结构大为优化，而作为经营者的张建国功不可没。
　　对于建行的国际化水平，张建国表示：不能单纯以海外机构自身的利润占比来衡量其对全行的利润贡献度，建行海外的人均利润要远远高于全行的人均利润，而随着境内外联动的深入开展，海外机构在客户营销、清算、结算等业务方面极大支持了国内外汇业务的发展。