关天培担任广东水师提督后，驻扎在虎门要塞。那时候，沿海局势日渐紧张，战云密布。关天培日夜操劳，加强沿海防务。建造战船需要耗费大量经费，旷日持久，只能从修建炮台入手。

关天培在钦差大臣林则徐、两广总督邓廷桢的协助下，在虎门附近的珠江航道上构筑了3道防线，防备敌人舰队从海上进攻广州。这3道防线由沙角炮台、大角炮台、横档炮台、永安炮台、巩固炮台、蕉门炮台、威远炮台、靖远炮台、镇远炮台等构成，每座炮台上都有几十门大炮。关天培亲自监督铸造40门八千斤、六千斤大炮，数百门六千斤以下大炮。

除了大炮，关天培还在珠江江面设置了大量排链、木桩、堆石，防御敌人舰队。

清朝承平已久，未经战事，水师部队难免有训练松弛的地方。关天培到了广东后，对水师部队进行整顿，加强训练，提高战斗力。

关天培经过一番真抓实干，将虎门要塞的防务整顿得固若金汤，得到了清朝的认可，被称为“大清第一海防”。后来，就连钦差大臣琦善前来视察时，都赞不绝口。

可是，清朝人眼里的“固若金汤”，在英国舰队面前不堪一击。

1841年1月7日，英军大举进攻虎门要塞。战前，关天培已知此战凶多吉少，将全部家产赏赐给将士们，激励他们奋勇作战。然后，他派人将一个盒子送回家里，作为自己的遗物。

战斗打响了。英国舰队从炮轰沙角炮台开始，对清军进行猛攻。在英军猛烈的炮火面前，虎门要塞的各大炮台被先后攻陷。镇守炮台的清军将士伤亡惨重。沙角炮台守将陈连升英勇战死。他的坐骑被掳到香港，不食而死，被誉为“节马”。横档炮台200多名守军全部战死。

到了2月6日，英军舰队已经攻到关天培驻守的靖远炮台。年逾60岁的老将关天培指挥将士开炮阻击敌人，浴血奋战，身上负伤十余处，依然坚持战斗。英军司令发出最后通牒，要求关天培放弃虎门要塞，关天培断然拒绝。当天晚上，关天培在奋战时，不幸中弹，当场牺牲，以身殉国。

当关天培战死的消息传到江苏淮安老家时，他母亲打开盒子，发现里面并没有什么金银财宝和田产地契，只有几颗落掉的牙齿和几件内衣（坠齿数枚，内衣数袭）。关天培母亲老泪纵横。这是儿子生前唯一的遗物啊。

关天培壮烈牺牲后，林则徐挥笔写下挽联：“六载固金汤，问何人忽坏长城，孤注空教躬尽瘁；双忠同坎壈，闻异类亦钦伟节，归魂乡关面如生。”清廷追加谥号为“忠节”，加封振威将军。如今，在江苏淮安有一座关忠节公祠和一座关天培墓，都是淮安市重要的爱国主义教育基地。