1949年7月，全國政治協商會議籌備會為了迎接新中國的成立，在《人民日報》登出了向全國徵求國旗、國徽及國歌詞譜的啟事，明確提出對國徽設計的要求是：甲、要有中國特徵;乙、要有政權特徵;丙、形式要莊嚴富麗。 全國各界人士紛紛投身於這一具有歷史意義的工作之中。同時，受中央之命，負責徵集國徽圖稿的清華大學建設系和國立北平藝專(1950年改為中央美術學院)都成立了國徽設計小組。截止1949年8月20日，共收到國內及海外華僑寄來的國徽稿件一百一十二件，圖案九百幅。這些稿件和圖案雖各具特色，但都有不足之處，故都未被採納。因此，在1949年9月下旬的政協全體會上，只通過了國旗方案和國歌詞譜，沒有公布國徽方案。 後來，全國政協第一屆委員會決定邀請清華大學建設系和中央美術學院分別組織人力對國徽方案進行設計競賽。 其中，清華大學建設系國徽設計組由我國著名建築學家、建設系主任梁思成教授擔任組長，成員有梁思成先生的夫人、建築學家林徽因、 油畫家李宗津、中國建築專家莫宗江、建築設計師朱暢中、汪國瑜、胡允敬、張昌齡以及研究中國古建築學的羅哲文等。 中央美術學院國徽設計組由著名工藝美術家、教授張仃、張光宇、周令釗、鍾靈等組成。
為了趕在1950年的國慶節掛上新國徽，兩個設計組的專家和學者們，對各種構思和構想認真推敲，反覆研究。梁思成、林徽因夫婦抱病參加設計工作。大家懷著極其興奮的心情，決心拿出最美好的設計，為祖國增光。 根據政協國旗、國徽審查小組提出的要求及各界人士提出的意見，並比較了所有設計方案，兩個國徽圖案設計組最後確定了國徽圖案有如下內容： 用齒輪、麥稻穗，五星、綬帶作為題材，體現在中國共產黨領導下的工農聯盟政權和全國人民的大團結。 把天安門作為題材的一部分設計進去，用以代表“五四”民主運動發祥地、新中國的誕生地，以天安門作為民族精神的象徵。 我們的國徽上的麥稻穗，是誰提議畫進國徽圖案里的呢? 1942年冬天，山城重慶，寒風陣陣，宋慶齡同志在她寓所，為歡送董必武同志返回延安而舉行茶話會。周恩來同志和鄧穎超也應邀出席。茶桌上擺著重慶近郊農民送來的兩串顆粒飽滿的禾穗，被爐火映照得金光燦燦。這時有人讚美這禾穗真象金子一般。宋慶齡說：“它比金子還寶貴。中國人口百分之八十都是農民，如果年年五穀豐登，人民便可豐衣足食了。”周恩來同志撫摸著飽滿的禾穗，意味深長地說：“等到全國解放，我們要把禾穗畫到國徽上。”果然，全國解放以後，他沒有忘記自己在那次茶話會上的講話，在制定中華人民共和國國徽圖案時，他建議要把麥稻穗畫上去。 兩個國徽圖案設計組除了確定了上述圖案內容，清華設計組還從“中國特徵”這一要求出發，在圖案的色彩上決定使用紅、金二色：紅色體現我國吉壽喜慶的民族色彩傳統，金色體現華貴富麗。金、紅相間，互為襯托，更增加了圖案的瑰麗色彩。 為了使國徽從形式上更莊嚴、肅穆，清華設計組決定把天安門畫成正立面圖，把象徵我國政權的五星紅旗作為天空背景覆蓋著祖國大地，端正地放在國徽圖案的正中軸線上，左右對稱，用以體現中華民族軒昂氣質。 在造型上，兩個設計組在設計過程中還參考了各國國徽圖案，並對我國古代的銅鏡、玉璧、玉環等禮儀文物的裝飾紋樣及工藝效果，進行了研究和借鑑。 兩個組的專家、學者們，經過將近半年辛勤努力，對數十個設計圖案反覆比較、精心研究，各完成了一幅自己認為最滿意的圖案。 當兩組的方案放在一起比較時，風格大相逕庭。梁思成小組設計的國徽，核心內容是一塊玉璧，玉璧有國器的象徵，也含指祖國統一、完璧歸趙，文人氣息濃郁。但周總理認為這個方案沒有體現出新中國的政權特色。張仃小組的方案則明確提出：紅色齒輪、金色嘉禾象徵工農聯盟，五角星象徵工人階級的政黨——中國共產黨的領導;齒輪嘉禾下方結以紅帶，象徵全國人民大團結和國家富強康樂;天安門為主體。當時中央比較傾向張仃小組的方案，為兩組召開了一次交鋒會，負責人各自陳述自己的觀點。張仃認為，他的原創主體是天安門，工農聯盟的創意來自周恩來。在設計說明里他闡述得很明白：天安門是中國燦爛文化和悠久歷史的象徵，同時又是中國新民主主義運動開始的地方，1919年的五四運動就發生在這裡，新中國也在這裡宣布成立，因此將天安門作為國徽的主體是不言而喻的。最終，中央傳達了一條意見：國徽當中一定要有天安門的形象，接納了張仃小組的方案。周恩來將進一步完善國徽設計的工作交給了梁思成。(當時梁思成是非黨人士，張仃是從解放區來的。周恩來對張仃說：“你們合作吧。”)