殷商時代在中原黃河流域的華夏族聚居區，就有了漢民族共同語的萌芽。歷經周、秦、漢及魏晉南北朝的長時間的發展融合和傳播，漢民族共同語達到了相當成熟的程度。商朝遷殷(今河南小屯附近)后，由于政治、經濟、文化等活動的需要，就有了早期共同語的萌芽。夏商周和春秋時，民族共同語稱“雅言”，主要流行于黃河流域。《詩經》的語言就是雅言。孔子講學用的就是雅言，而不是魯國方言，我們可以說孔子的推廣民族共同語的先驅。
秦朝時推行“書同文”等文化政策，使民族共同語的傳播有了政治上的保障。漢代的民族共同語叫“通語”，或“凡語”、“凡通語”、“通名”。西漢揚雄編著的《方言》就是用“通語”來解釋各地的方言的，這是我國第一部方言著作。
魏晉南北朝時，以洛陽語音為標準的漢民族共同語從中原傳向北方和江左一帶。《魏書咸陽王禧傳》就有關于北魏孝文帝通令“斷胡語”，用正音“的記載。正音就是北魏都城洛陽的語音。南朝的宋齊梁陳都建都于金陵(今南京)，當時的金陵話是洛陽話的沿用。