1905 年出生于贫困家庭，广东蕉岭人。1925年，在广东大学预科肄业。同年12月，考入黄埔军校第四期政治科学习。1926年10月毕业，在国民革命军第一师任排长，参加北伐战争。后调到第十九路军蔡廷锴部任连长。在济南讨伐孙传芳战斗负伤，愈后先后任武汉要塞、河南省保安处营长、中校团副及旅部参谋主任等职。1937年“八一三”上海抗战爆发时，任陆军第八十八师二六二旅参谋主任，参加闸北八字桥战斗。后任五二四团团副，团长牺牲后接任团长，率部驻防北火车站，与日军对峙二个多月，10月26日，日军疯狂向驻地防线发动进攻。他率领第一营的400余官兵，坚守苏州河北的四行仓库，掩护大部队后撤。10月27日，上千的日军进犯，他沉着应战，号召壮士“要人在阵地在，誓与日军血战到底！”激战一天，毙敌80余名。率部孤军死守危楼，誓不投降的消息，迅速传遍上海，为国内外瞩目，赞誉他们为“八百壮士”。28日凌晨，官兵又在四行仓库屋顶升起中国国旗，表示捍卫祖国尊严，誓与侵略者战斗到底的决心。接着敌军攻势一次比一次猛烈，形势险恶。29日，写下遗书：“晋元决心殉国，誓不轻易撤退，亦不作片刻偷生之计，在晋元未死之前，必向倭寇索取相当代价。余一枪一弹，亦必与敌周旋到底！”30日，接蒋介石“珍重退入租界，继续为国努力”的手令。31日，敌又以飞机大炮攻击仓库，他以3挺机枪掩护，率部冲出重围，退入租界。坚守仓库4昼夜，击退日军数十次进攻，毙敌200余名，写下中国抗战史上极为壮烈的一页。他受到上级通令嘉奖，升任为上校团长。部队退入租界后，正待整装再战，被英军解除武装，送往胶州路“孤军营”，受尽凌辱。他满腔悲愤，每日清晨带领孤军唱国歌，举行精神升旗仪式，出操上课，教育部属勿忘爱国军人的人格和国格。1938年8月11日晨，为纪念“八一三”抗战一周年，率部升起国旗。当天下午遭到万国商团外籍军队包围冲击营房，夺去了国旗。他指挥壮士展开搏斗，4名壮士牺牲，100余人负伤。孤军被送往外滩中央银行大楼幽禁。他下令开展绝食斗争。工部局被迫让步，将他们送回孤军营，奉还国旗，抚恤死难壮士，并对此事件表示歉意。1940年3月，汉奸汪精卫在南京成立伪国民政府，派员以陆军总司令的高官诱降，他严词斥道：“尔等行为，良心丧尽，认贼作父，愿作张邦昌，甘作亡国奴。我生为中国人，死为中国鬼，以保国为民为天职，余志已决，决非任何甘言利诱所能动，休以狗彘不如之言来污我，你速去，休胡言。”敌伪见软硬兼施无效，于1941年4月，收买叛兵4人在24日早操时，乘他不备，用凶器将其击死。遇害消息传出后，举国震惊。5月8日，国民政府通令嘉奖，追赠为陆军少将。上海10万民众前往瞻仰遣容。“八百壮士”为“民族典型”。上海晋元中学建立纪念馆立像，其家乡蕉岭县建立晋元中学作为纪念。表彰他“参加抗日，为国捐躯”的光辉业绩。