1903年8月，张灵甫生于西安郊区的一个农民家庭。那座备受争议的“张灵甫将军陵园”便修建在他出生的村子里。张家家境尚好，很早就送他到省城西安读书。青年张灵甫酷爱书法，每逢节假日都带上纸笔到西安城内的碑林临摹碑帖，他的书法很快远近闻名。此事被陕西的国民党元老于右任听说，张灵甫当着于右任的面挥毫泼墨，连写五幅字。于右任惊讶之余大喜过望，连连道：“奇才，奇才，后生可畏！”

中学毕业后，张灵甫顺利考入北京大学历史系。学生运动风起云涌，张灵甫也积极参与，但他深感学生的软弱无力，愤而投笔从戎加入了河南军阀部队的军官训练团。1926年张灵甫听从于右任的建议考入黄埔军校，成为黄埔四期学员，与后来的同僚胡琏、李弥，以及对手林彪、刘志丹是同学。

“文北大，武黄埔”，张灵甫可谓文武双全。后来，带兵打仗之余张灵甫还根据自己的作战经验，写了《遭遇战研究》、《山地战研究》、《日军作战心理分析》、《在劣势装备下如何实施河川战》、《我带兵的经验》等众多文章，堪称军事理论家。

黄埔四期毕业后，张灵甫被编入国民革命军第21师任步兵排见习官，不久见习合格升任排长，开始参加北伐战争。北伐结束后，张灵甫调入国民革命军第一师，在这个有“天下第一师”之称的嫡系部队中，张灵甫升迁至团长。

张灵甫从黄埔军校毕业后，一直在蒋介石的嫡系第一军任职。不仅如此，张灵甫所在的第一师是第一军里的王牌，可谓嫡系中的嫡系。第一师师长胡宗南对张灵甫十分器重，视为心腹。1933年，年仅30岁的张灵甫就当上了第一师独立旅第1团上校团长。

张灵甫所部在四川与红四方面军交战，经部队朋友介绍，张灵甫与吴海兰相识。1933年冬，两人在四川广元拜堂成亲。—年后，女儿张清芳出世，一家人其乐融融。不料1935年竟发生了“团长古城杀妻”的惨剧。

张灵甫究竟为何杀死自己的妻子？据张灵甫的后任妻子王玉龄回忆，张灵甫曾说：“她拿了我的东西，我问她又死不开口。”但张灵甫并没有解释吴海兰到底拿了他的什么东西，以致他痛下杀手。直到张灵甫死后多年，当年与他私交甚笃，曾经长期在他手下任职的刘光宇透露了玄机：“吴海兰偷了张灵甫的文件。”

当时胡宗南的部队一直在川陕一带与红四方面军激战，当地也有共产党的地下组织活动，张灵甫担心妻子可能沾了共产党的边，但在事情没搞清楚之前又不便声张，于是就暗地里向妻子盘查，不料吴海兰对此保持沉默，惹得他气急败坏。他的性格又容不得“背叛”二字，不能接受吴海兰有通共嫌疑，对爱妻的“背叛”行为极为震怒，拔枪的瞬间，眼睛里已经没有爱妻，只有“共党”了。

民间还流传一种说法是张灵甫怀疑妻子与其他男人通奸而起了杀意。

不论什么原因，吴海兰死于张灵甫之手。吴海兰的父母自然要讨回公道，他们去西安递状纸上告。张学良的夫人于凤至知道后，愤愤不平，打长途电话给远在南京的宋美龄：“王子犯法，庶民同罪，你们要秉公严惩!”西安各界妇女也表示极大义愤，联合上书全国妇女部长宋美龄，要求严惩凶手。蒋介石闻之十分生气，吩咐将人送南京军事法庭查办，胡宗南对这个下属憨直的脾气较为了解，就让张灵甫自己去南京投案，张灵甫从陕西径自去了南京的军法处自首，被拘押于老虎桥模范监狱，初审内定为死刑，后改判10年徒刑。

1937年初，张灵甫出狱了！出狱原因一说是张灵甫在狱中递交了申诉书为法庭所接受，故而原判刑罚没有执行；一说是因为日本人咄咄逼人，为了抗战大局，蒋介石开释了除政治犯之外的所有在押官兵，让他们一律归队，戴罪立功。张灵甫重新回到了部队，加入了正驻扎汉中的旧识王耀武的51师。

1937年8月，淞沪保卫战中，时任74军51师153旅305团团长的张灵甫在嘉定作战之时，面对武器装备远远优于国军的日寇，杀红眼的张灵甫抱着机枪跳出战壕，带领一百多名敢死队员迎头痛击。张灵甫又率领全团将士连续打退敌人七次冲锋，打死打伤日寇八百多人。

淞沪会战结束后，张灵甫率305团投入南京保卫战。他率全团官兵挺枪举拳，向中山陵方向同声宣誓：誓与日寇血战到底！12月5日，305团在淳化镇附近构建新阵地，阻击日军，掩护王耀武51师退入南京。此时，日军已经占了上风，想借机一口吃掉国军主力。战斗中张灵甫的左臂中弹，负伤不下火线，终于在夜战中拼死夺回了河定桥阵地，把日军堵在南京东南郊的大门之外。因作战有功，张灵甫被提升为153旅副旅长兼305团团长。

武汉会战中，日军第106师团进攻万家岭，企图包围中国第一兵团德安阵地左翼。薛岳命令第66军2个师、第74军2个师、第4军2个师，对进攻之敌实施合围。日军第136旅伤亡惨重。第66军攻克石头岭，第74军猛攻长岭、张古山，逐渐缩小了对敌包围圈，日军被迫依托万家岭、张古山在窄小地区防御。一个整建制消灭日军师团的机会来了！

王耀武在师部召集旅团长们讨论作战方案的时候，张灵甫拍案而起，道：“各位都看过《三国演义》，魏国大将邓艾为攻取成都，出蜀将之不意，带精兵暗渡阴平，飞越摩天岭，一举攻克成都。我们也可仿此战例，大军从正面进攻的同时，再挑选一批精兵强将，从人迹罕至的张古山背面进行偷袭。”王耀武对这套出奇制胜的建议极为赞赏，于是张灵甫亲率一支突击队效法邓艾轻装出发，他们沿着后山绝壁，从日军疏于防范的后山进攻，飞夺张古山。张灵甫率部与日军鏖战五昼夜，身中7块弹片，仍不下火线。张灵甫这支奇兵封死了日军106师团的最后退路，该师团最终几乎全军覆没。此役差点成为八年抗战中唯一一次全歼日军一个师团的战例。

1938年，中国军队有两次战役可以称得上是“大捷”。第一次是著名的 “台儿庄大捷”。第二次就是 “万家岭大捷”。万家岭战役是武汉会战的一个重要组成部分，而张古山之战又是万家岭战役中至关重要的一场战斗。德安大捷之后，张灵甫获云麾勋章，田汉受时任国民党军事委员会政治部第三厅厅长郭沫若的委派，采访张灵甫，文章刊登在《中央日报》上。田汉还编写了话剧《德安大捷》，张灵甫的真实姓名出现在剧中，名震天下。

1939年3月，张灵甫参加南昌会战，在高安战役中右腿中弹负伤，由于当地医疗条件限制，医生告诉张灵甫可能要截肢。张灵甫听后立即反对：“不行！锯了腿我还怎么回去领兵打仗！”尽管医生给他晓以利害，他依旧不改初衷：“不必啰嗦，要锯腿，不如先一枪打死我！”后来在王耀武、薛岳的帮助下，张灵甫终被转到器材设备先进的香港玛丽医院。手术后医生告诉他必须疗养数月。在医院，张灵甫在报纸上读到一条“战时军人不宜出国养病”的新规定后，便坚持要提前出院。好心的院长劝他再疗养半个月便可痊愈，张灵甫说：“军人死且不惧，何爱一肢？”说完便拄着拐杖离去。从此，张灵甫的右腿膝盖变得僵直不能弯曲，便得了一个“瘸腿将军”的绰号。面对残疾，张灵甫说：“吾张某人腿虽废，无以站立，然中华民族得以站立，不为倭贼所欺，吾之腿值也！”

1940年冬，张灵甫出任74军58师副师长。上高会战中，74军歼敌16000人，缴获战马2800匹，击落敌机一架，击毙日军少将一名、大佐一名、大队长两名，第34师团参谋长樱中德太郎兵败自杀。罗卓英评价该部为“战斗力量坚强”，何应钦称之为“开战以来最精彩之作战”。74军因此荣获国民政府第一号武功状和最高荣誉“飞虎旗”，被誉为抗日铁军。

此后，张灵甫参加了第二次长沙会战、第三次长沙会战、浙赣会战、鄂西会战，均有不俗的表现。1943年11月常德会战，张灵甫部作为主力与51师携手歼灭日军南京大屠杀元凶13师团大部，获颁云麾勋章一枚，他被蒋介石誉为“模范军人”。1945年4月，张灵甫又在湘西雪峰山战役中指挥74军58师在铁山击破日军主力，获三等宝鼎勋章。在抗战期间，张灵甫一再擢升，几乎年年晋级受奖，在国民党朝野，张灵甫也被视为“常胜将军”。

1946年，国民党整军会议后，第74军改编为整编74师，辖整编51旅、57旅、58旅共3万余人。此时的整编74师已是清一色的美械装备，时称国民党部队五大主力之首。

内战初期，张灵甫和他的74师屡战屡胜，攻占了苏皖解放区首府淮阴，使得粟裕被迫放弃了两淮地区。华野主力只得北撤山东。解放军在华东只剩下了山东解放区。

国军攻占两淮后又开始进攻涟水地区。第一次涟水之战从10月19日打到11月1日，中共军队守住了涟水。整编74师在战斗中损失了1200余人，这是张灵甫在内战战场上第一次挫折。不过随后12月3日开始的第二次涟水之战中，74师还是攻下涟水，随后挺进鲁南山区。

对于进入山区作战，张灵甫牢骚满腹，他曾对毛森抱怨：“我是重装备部队，如在平原作战，炮火能发挥威力，陈毅二三十万人都来打我，我也能应付；现在迫我进入山区作战，等于牵大水牛上石头山。有人跟我过不去，一定要我死，我就死给他们看吧！”不料最终一语成谶。

1947年3月，延安被胡宗南攻占，与此同时国民党军在山东集中24个整编师约45万兵力，编成3个兵团向鲁中山区推进。中央指示华野“不要性急，不要分兵，将主力集结于机动位置；只要主力在手，总有歼敌机会。”而汤恩伯却错误地命令第一兵团在5月11日对坦埠发动进攻。掩护左右两翼的整25师与整83师没有依令与74师并进，张灵甫的74师被迫形成了孤军挺进的局面。这时解放军强大的情报网发挥了巨大力量，当时的国防部作战次长刘斐和作战厅长郭汝瑰都是潜伏的中共间谍，74师的这一情况被解放军迅速得知，华野9个纵队全军出击。在粟裕的指挥下，解放军切断了整74师与整83师、整25师的联系，第6纵队从鲁南铜石急速北进，堵住了74师的退路。张灵甫被迫向孟良崮、垛庄收缩，第6纵队在第1纵队和第8纵队的协同下，于5月15日拂晓攻占垛庄，彻底切断74师的退路，华野至此形成对整74师的四面包围。

5月14日下午6时，汤恩伯电告张灵甫兵团部已经改变了作战部署，命令张灵甫固守孟良崮，兵团部决定要以张灵甫师吸引华野主力，争取一次对华野主力的歼灭战。

5月15日，张灵甫被优势解放军压迫，孟良崮乃光秃秃之石山，山上无水，水冷式马克沁机枪不能发挥威力。北线只有黄百韬整25师的4个团在拼命增援，在遭到重大伤亡后，一直攻到天马山。当时，华野1纵也无法阻挡，眼看就要突破，恰巧4纵一个营经过，帮助1纵守住了阵地，终致74师孤军奋战整个华野直至全军覆没。

张灵甫及其74师被歼灭后，蒋介石看到了张灵甫的遗书，其中写道：“……今日战况更恶化，弹尽援绝，水粮俱无。我与仁杰决战至最后，以一弹饮诀成仁，上报国家与领袖，下答人民与部属……”29日，蒋介石发布通文，向国民党全体官兵通报表彰了张灵甫的“杀身成仁”。

解放军方面认为张灵甫是被俘后遭枪杀。许多国民党被俘军官回忆，张灵甫是自杀。据原整编第74师辎重团团长黄政在其遗稿《七十四军覆灭记》中回忆：“五月十六日下午二时许，张灵甫在师部指挥所的山洞中对下属说，我们是有气节的军人，不成功，即成仁，要用集体自杀，报答党国，而绝不受被俘之辱。随后，张灵甫向蒋介石发出最后的电报：“抱定不成功，即成仁之决心，发电后，职等集体自杀。”洞内六人集体自杀。

2005年，张灵甫遗孀王玉龄受邀参加在人民大会堂举办的抗战胜利60周年纪念大会，并向所有与会人员发表名为“尊重历史，走向未来”的讲话。张灵甫的长子张居礼也替父亲领到了中共中央、中央军委和国务院颁发的一枚抗日纪念章，张灵甫将军的抗日功绩终得以正名。