學生軍訓，在我國可追溯到古代的奴隸社會。據《禮記》、《周禮》等記載，西周官學已有“國學”與“鄉學”之分，並有國小和大學兩級。西周大學，以習武為主，教師一般由軍官擔任。軍訓主要內容為習射，即學射箭，加駕馭五種戰車的方法等。這是我國古代最早對學生進行軍訓的記載。以後各朝代都有過對學生實施軍訓的記載。在國民黨政府統治時期，也實行了童子軍訓練制度，並規定了童子軍軍事訓練的內容和管理。
我國對學生實施軍事訓練真正走向正軌，還是中華人民共和國誕生以後。1955年7月我國頒布第一部《兵役法》，第一次從法律上作出了在大學生、高級中學學生中進行軍事訓練的規定，並從同年冬季起，首先在北京體育學院、北京鋼鐵學院進行軍訓試點，後又增加了北京郵電學院等12所高等院校。在兩批14所高等院校中，進行了21個軍事專業課題的訓練，受訓學生達一萬多人。從1955年至1957年間，教育部、國防部依據《兵役法》的規定，又先後批准在全國127所中等學校進行軍訓試點，受訓學生達7萬餘人。當時，高等院校重點進行預備役技術軍官訓練;高級中學進行基礎軍事訓練。實踐證明，上述軍事訓練，對激發學生愛國主義熱情、增強學生的國防觀念以及擴大知識面，培養祖國需要的合格人才，都起到了積極的作用。
60年代初，經國務院批准，全國53個大、中城市的38所高等院校和70所高級中學或中等專業學校的一年級學生，進行了軍訓試點。1965年，根據黨中央有關大專院校學生到部隊當一段時間兵的指示精神，全國又有部分大專院校學生到部隊下連當兵。
黨的十一屆三中全會以後，我國政治、經濟形勢出現了建國以來少有的大好局面，開展學生軍訓時機日趨成熟。中共中央在1981年下發第11號檔案，指示高等院校要把學生軍訓納入教學計畫，部分學校恢復了學生軍訓。1984年，六屆人大二次會議通過並頒發了新的兵役法，把高等院校和高級中學學生軍事訓練單列一章，充分體現了國家對學生軍訓的重視。1985年，我國又在52所高等院校、102所高級中學(含中等專業學校)設立了軍事訓練試點。1986年，中央領導同志強調，今後對高等院校新生要集中進行軍事訓練，過一段嚴格的軍事生活。軍訓試點的高等院校增加到69所。1987年擴大到105所。為進一步搞好學生軍訓試點，國家教委、總參謀部、訓練時間、訓練內容、軍事教員的配備，以及學生軍訓的經費和物資保障等方面作出了明確規定，推動了學生軍訓的迅速發展。到1996年，全國軍訓試點院校已擴大到157所，此外，近10年來還有很多非試點院校也根據自身情況組織學生進行了各種形式的軍事訓練，據不完全統計，目前我國已有近500所高等院校和近3000所中等學校開展了學生軍訓，每年參訓的學生約占年度招生的一半左右。