1947年3月毅然回到祖國。他沒有帶回貴重物品，僅有裝滿書籍和技術資料的兩個箱子。他唯一的願望是，把在美國學到的航空技術貢獻給祖國。吳大觀回國後被安排到貴州大定航空發動機廠廣州分廠做籌建廠工作。他看到當時南京國民政府的腐敗，已不可能再搞什麼航空發動機行業，不得已憤然離職。
1948年，他來到北平（今北京市），在北京大學工學院機械系任專任講師，講授航空發動機設計及齒輪設計和加工兩門新課，頗受同學們的歡迎。在教書的同時，吳大觀參加了學生的反飢餓、反迫害、罷課罷教運動，參加演活報劇，做反蔣反內戰的宣傳。
1948年冬在地下黨的安排下，將吳大觀及其愛人、孩子和弟弟一家四口人送到解放區石家莊。吳大觀從實踐中認識到，發展航空唯有依*中國共產黨。他到達解放區時，心情萬分激動，對自己的愛人和弟弟說：“我們現在到了我嚮往的世界，祖國的航空事業，祖國的繁榮昌盛全*共產黨的領導，我要為它而獻身。”此後，聶榮臻親切接見了他，鼓勵他為祖國的航空事業貢獻力量。從此，他走上了新的航空救國之路。
1948年12月，吳大觀隨解放北平的隊伍，參加了入城接管礦冶研究所的工作。
1949年11月任重工業部航空籌備組組長。
1951年航空工業局成立，他在局機關參加發動機生產管理，孜孜不倦地學習蘇聯新的噴氣發動機生產工藝資料，抓工廠生產管理先進典型，在局領導下組織各廠交流。在蘇聯援助下。
1956年，吳大觀調到瀋陽410廠組建我國第一個噴氣發動機設計室。在條件不具備的情況下，開始設計我國第一台噴氣教練機動力發動機。經他和設計室副主任多次分析研究有利條件和存在難點後，決定利用410廠剛生產定型的渦噴5（蘇bk—1）發動機為原準機，用相似定律進行縮型設計殲教1飛機的動力噴發1a發動機。此方案可利用410廠已有的鍛鑄毛坯、工裝設備，不用增加任何新材料，就可製造出新的發動機。這是經濟、風險最小的研製方法，也是研製周期最短、耗資最省、較有把握的設計方法。他以敢於拼搏，勇於創新的精神，與廣大工人日夜奮戰了210天，經過20小時的持久試車，首批4台發動機研製成功。
1958年8月1日這4台發動機裝在新設計的殲教—1飛機上試飛。這台裝有噴發—1a發動機的國產噴氣教練機試飛成功，標誌著噴發—1a型發動機勝利誕生。飛機試飛的那一天，葉劍英、劉亞樓專程從北京趕來參加慶祝大會。吳大觀總結那段工作時說：“新設計發動機方案的選擇，走什麼途徑，承擔多大風險，是設計發動機能否成功的重要環節。”噴發—1a研製初步成功給新機研製闖出一條路子。這次初戰告捷，他起了關鍵作用。
1959年9月，他負責設計、試製的紅旗２號噴氣發動機上台試車，為慶祝國慶十周年獻禮。為此，航空工業局發來賀電。
1961年8月國防部第六研究院第二設計研究所成立，他擔任技術副所長，主持二所的發動機研製工作和試驗基地的建設。吳大觀努力探索發動機研製方法和研製程式的新路子，他多次出國考察，善於借鑑國外經驗。他認為，研製發動機必須先抓試驗設備、測試儀器和測試技術，鑒於在研製過程中有大量的部件驗證和整台發動機調試，他向上級提出建議設計所必須建設相當規模的試驗基地。經批准後，他在所內抽調有工作經驗的技術人員組建了試驗設備設計室。他多次宣傳“當前計算機技術雖然能解決發動機設計中很多難題，但是發動機最後設計成功，仍然需要大量的發動機試驗”這一觀點。經國家批准，二所開始籌建0307試驗基地，從而為發動機研製創造了必備的試驗條件。在發動機試驗工作中，吳大觀還抓住另一個重要環節，即測試儀表和測試技術。他主張高精度的溫度、壓力、振動、應力測量感測器，都要立足於國內，自力更生，自己解決。這樣，即使受國際封鎖，也不會因此影響發動機的正常研製。他抽調一批技術人員，組成儀表設計試驗室和強度儀表試驗室。在研製初期，為解決應力測量問題自製了各種應變片、水銀引電器和滑環引電器。為了便於技術人員學習掌握電子技術，50年代末，吳大觀把他從美國帶回的6真空管長短波收音機拿出來，供他們裝拆練習。六院二所成立後，吳大觀花了相當長的時間，建立了測試儀表試驗室，與試驗設備配套使用。在試驗基地，他不停地進行著大批發動機部件試驗，為發動機研製立下了功勞。他反覆強調，設計力量、材料工藝技術和試驗設備是發動機研製的三大技術支柱，三者缺一不可。