我國是一個文明古國，幅員遼闊，民族眾多，漢語與各少數民族語言並存，漢語內部又分生方言，不僅方音各異，連辭彙、語法也有很多差異。就交際口語而言，漢語各大方言之間的溝通度很低，以操北方方言江淮次方言的鎮江人為例，若非訓練有素，聽廣東話、福州話之類肯定不入門，就連同在一市的丹陽話(屬吳方言)，聽起來恐怕也跟聽外語差不多。更有甚者，丹陽話內部還有許多“流派”，人稱“四門八話”，據說民間還有“蘇秦通六國，氣死在丹陽”的說法，足見方音土調對人際交往影響的嚴重程度。多少年來，我們的先人一直在探索建立並推廣一種能夠跨方言乃至跨民族的通用語，以方便人際交流。
據《論語·述而》載：“子所雅言，詩、書、執禮，皆雅言也。”意思是說：孔子有用國語的時候，當他誦讀《詩經》、《書經》和司掌禮儀時，都使用“雅言”——當時中國通行的共同語，用今天的話來講，就是國語。由此可知，遠在兩千多年前中國就已經有了當時的國語;操山東方言的孔老夫子，在教學和“公務活動”中能夠自覺使用當時的國語。從周秦以降的文獻資料中，我們可以找到不少關於正字正音、推廣通用語的例子。
特別值得一提的是，清代雍正年間頒布詔令推廣“官話”;“五四”運動前後廣泛推行“國語”，倡導用“國語”來寫文章，用“國語音”來念漢字、播新聞、演電影等，對漢語國語的形成和發展起到了很重要的作用。