關天培調任廣東水師提督的這年，正是英國商務監督律勞卑率兵船蠻橫闖入廣東省河之後，為了加強海防，清政府調他到這個當時是全國對外交往和貿易的唯一口岸廣州。關天培面臨著艱巨的任務，為了專心致志搞好海防，先令妻子奉老母歸里，自己帶著三個家丁到廣州赴任。就任後，他“親歷重洋，遍觀厄塞”，根據虎門的險要形勢，進行嚴密設防，設定了三重門戶：以沙角、大角兩炮台為第一重門戶;南山、鎮遠、橫檔三炮台為第二重門戶，並將其中的南山炮台加以改建，加築石基，增設月台，改變炮位過高的弱點，改稱為威遠炮台;獅子洋口的大虎門炮台為第三重門戶。這三重門戶也就是三條防線，緊緊地把守住珠江口的南大門。他一方面在第二、三防線之間，威遠、鎮遠與橫檔的適當地段設定大鐵鏈和木排，以阻攔敵闖入內洋;另方面又親自監督鑄造大炮八千斤、六千斤者四十尊，六千斤以下者數百尊，分置各炮台，以加強防守力量。與此同時，他又加緊訓練水師部隊，親自駐紮在虎門督軍操練，每年二月末、八月初，“分飭本標將備，率親兵五百餘名，分赴威遠、鎮遠、橫檔、大澆、永安、鞏固六處，練習炮準，其大角、沙角炮台等處，共兵六百四十名。每次操練可十日為度”。他還將建設虎門要塞的經驗和匯集的有關資料，編成《籌海初集》四卷並附有許多詳細的地圖和訓練圖、表等，以資參考。這時鴉片煙流毒全國，英、美的鴉片躉船源源不斷東來，鴉片走私貿易極為猖獗，關天培積極協助兩廣總督鄧廷楨進行偵緝。到道光十九年(1839年)春林則徐到廣東後，關天培更是盡力支持和配合禁菸運動，取得了迫使義律繳出二萬餘箱、袋鴉片，並在虎門全數銷毀的偉大勝利。在林則徐的贊助下，他又在武山上的威遠炮台和鎮遠炮台之間新修築起一座大炮台，名為靖遠，炮洞六十八個，配炮六十位。其建築之堅固與火力之充沛，為虎門各炮台最。當時關天培除自鑄鐵炮外，還在林則徐、鄧廷楨的大力支持下，從澳門等地購進洋炮二百多尊，並嚴格訓練大批招募來的水師兵勇，改革編制，將大鵬營由營改為協，撥副將駐紮那裡，與香山協相呼應，又雇用一批米船、紅單船、拖風船，利用有利地形與軍民在海上與陸上的緊密協作，切實做到嚴陣以待，以迎擊來犯的敵人。林則徐對關天培這些整頓防務的努力予以很高的評價，稱讚他“殫精竭慮，寢食以之”。由於關天培在廣東沿海的嚴密布防，使英國侵略者在這個時期的挑釁與襲擊都未能得逞。
道光十九年七月二十七日(1839年9月4日)，義律率兵船二艘、貨船三艘到九龍山口岸以索食為名，突發炮火，進行挑釁活動，遭到大鵬營參將賴恩爵率領的水師猛烈反擊，狼狽逃跑。兩個月以後，九月二十八日(11月3日)義律又阻擋英國商船具結，破壞中英正常貿易，挑起穿鼻之戰，這次戰鬥可說是揭開了中英鴉片戰爭的序幕，實際上是英國發動鴉片戰爭的開始。在這次戰鬥中，關天培親臨督陣，雖手背受傷，仍奮不顧身，執刀屹立，督令弁兵，對準英艦連轟數炮，使它遭到重創，倉皇遁去。此後十天內，英艦又接連向官涌守軍發動六次進攻，結果都被增城營參將陳連升等所率領的守軍所擊退，獲得全勝。戰鬥結束後，關天培得到清政府的嘉獎，在道光帝的上諭里寫道：“此次攻擊夷船，提督關天培奮勇直前，身先士卒，可嘉之至!著賞給‘法福靈阿巴圖魯’名號”，並下令“交部從優議敘，以示獎勵”。鴉片戰爭爆發後，關天培督率水師，堅守陣地，並積極組織漁船、蟹艇，利用各種機會襲擊侵略軍。道光二十年十一月(1840年12月)，琦善以欽差大臣和兩廣總督的身份抵達廣州，一反林則徐之所為，遣散兵勇，盡撤海防，將關天培數年來辛苦經營的虎門三道防線並木排鐵鏈全數加以毀棄。關天培為此感到十分痛心，一再要求琦善採取抵抗的積極措施，都遭到拒絕。這年十二月十五日(1841年1月7日)，英軍突然襲擊並攻占大角、沙角炮台，副將陳連升壯烈犧牲，虎門形勢十分危急。當時，關天培與總兵李廷鈺各只有弱兵數百，分守靖遠、威遠兩炮台，請琦善派兵支援，琦善僅遣兵二百進行敷衍。道光二十一年二月初六日(1841年2月26日)，英軍大舉進攻虎門諸炮台，而守軍才幾百人，關天培在孤軍無援的絕境下，決心死守陣地，將自己的財物全部分贈將士，鼓勵他們英勇殺敵，他與游擊麥廷章等晝夜督戰。敵軍在占橫檔、永安等炮台後，集中兵力進攻靖遠和威遠炮台，關天培親燃大炮自上午十時至下午七時，與敵激戰達十小時之久。敵人自炮台背後進攻，關天培身被數十創，猶持刀拚殺。當時年近六旬，重傷後，親手點燃大炮轟擊敵人。最後英勇犧牲，游擊麥廷章及所部戰士數十人也都壯烈捐軀。