衛青字仲卿。其父鄭季，河東平陽人也，以縣吏給事侯家。平陽侯曹壽尚武帝姊陽信長公主。季與主家僮衛媼通，生青。青有同母兄衛長君及姊子夫，子夫自平陽公主家得幸武帝，故青冒姓為衛氏。衛媼長女君孺，次女少皃，次女則子夫。子夫男弟步廣，皆冒衛氏。
青為侯家人，少時歸其父，父使牧羊。民母之子皆奴畜之，不以為兄弟數。青嘗從人至甘泉居室，有一鉗徒相青曰：“貴人也，官至封侯。”青笑曰：“人奴之生，得無笞罵即足矣，安得封侯事乎！”
青壯，為侯家騎，從平陽主。建元二年春，青姊子夫得入宮幸上。皇后，大長公主女也，無子，妒。大長公主聞衛子夫幸，有身，妒之，乃使人捕青。青時給事建章，未知名。大長公主執囚青，欲殺之。其友騎郎公孫敖與壯士往篡之，故得不死。上聞，乃召青為建章監，侍中。及母昆弟貴，賞賜數日間累千金。君孺為太僕公孫賀妻。少皃故與陳掌通，上召貴掌。公孫敖由此益顯。子夫為夫人。青為太中大夫。
元光六年，拜為車騎將軍，擊匈奴，出上谷；公孫賀為輕年將軍，出雲中；太中大夫公孫敖為騎將軍，出代郡；衛尉李廣為驍騎將軍，出雁門：軍各萬騎。青至籠城，斬首虜數百。騎將軍敖亡七千騎，衛尉廣為虜所得，得脫歸，皆當斬，贖為庶人。賀亦無功。唯青賜爵關內侯。是後匈奴仍侵犯邊。語在《匈奴傳》。
元朔元年春，衛夫人有男，立為皇后。其秋，青復將三萬騎出雁門，李息出代郡。青斬首虜數千。明年，青復出雲中，西至高闕，遂至於隴西，捕首虜數千，畜百餘萬，走牡羊、樓煩王。遂取河南地為朔方郡。以三千八百戶封青為長平侯。青校尉蘇建為平陵侯，張次公為岸頭侯。使建築朔方城。上曰：“匈奴逆天理，亂人倫，暴長虐老，以盜竊為務，行詐諸蠻夷，造謀籍兵，數為邊害。故興師遺將，以征厥罪。《詩》不云乎？‘薄伐獫允，至於太原’；‘出車彭彭，城彼朔方’。今年騎將軍青度西河至高闕，獲首二千三百級，車輜畜產畢收為鹵，已封為列侯，遂西定河南地，案榆溪舊塞，絕梓領，梁北河，討薄泥，破符離，斬輕銳之卒，捕伏聽者三千一十七級。執訊獲醜，驅馬牛羊百有餘萬，全甲兵而還，益封青三千八百戶。”其後匈奴比歲入代郡、雁門、定襄、上郡、朔方，所殺略甚眾。語在《匈奴傳》。
元朔五年春，令青將三萬騎出高闕，衛尉蘇建為游擊將軍，左內史李沮為強弩將軍，太僕公孫賀為騎將軍，代相李蔡為輕車將軍，皆領屬車騎將軍，俱出朔方。大行李息、岸頭侯張次公為將軍，俱出右北平。匈奴右賢王當青等兵，以為漢兵不能至此，飲醉，漢兵夜至，圍右賢王。右賢王驚，夜逃，獨與其愛妾一人騎數百馳，潰圍北去。漢輕騎校尉郭成等追數百里，弗得，得右賢裨王十餘人，眾男女萬五千餘人，畜數十百萬，於是引兵而還。至塞，天子使使者持大將軍印，即軍中拜青為大將軍，諸將皆以兵屬，立號而歸。上曰：“大將軍青躬率戎士，師大捷，獲匈奴王十有餘人，益封青八千七百戶。”而封青子伉為宜春侯，子不疑為陰安侯，子登為發乾侯。青固謝曰：“臣幸得待罪行間，賴陛下神靈，軍大捷，皆諸校力戰之功也。陛下幸已益封臣青，臣青子在襁褓中，未有勤勞，上幸裂地封為三侯，非臣待罪行間所以勸士力戰之意也。伉等三人何敢受封！”上曰：“我非忘諸校功也，今固且圖之。”乃詔御史曰：“護軍都尉公孫敖三從大將軍擊匈奴，常護軍傅校獲王，封敖為合騎侯。都尉韓說從大軍出｛穴真｝渾，至匈奴右賢王庭，為戲下搏戰獲王，封說為龍額侯。騎將軍賀從大將軍獲王，封賀為南窌侯。輕車將軍李蔡再從大將軍獲王，封蔡為樂安侯。校尉李朔、趙不虞、公孫戎奴各三從大將軍獲王，封朔為陟軹侯，不虞為隨成侯，戎奴為從平侯。將軍李沮、李息及校尉豆如意、中郎將綰皆有功，賜爵關內侯。沮、息、如意食邑各三百戶。”其秋，匈奴入代，殺都尉。
明年春，大將軍青出定襄，合騎侯敖為中將軍，太僕賀為左將軍，翕侯趙信為前將軍，衛尉蘇建為右將軍，郎中令李廣為後將軍，左內史李沮為強弩將軍，鹹屬大將軍，斬首數千級而還。月余，悉復出定襄，斬首虜萬餘人。蘇建、趙信並軍三千餘騎，獨逢單于兵，與戰一日余，漢兵且盡。信故胡人，降為翕侯，見急，匈奴誘之，遂將其餘騎可八百奔降單于。蘇建盡亡其軍，獨以身得亡去，自歸青。青問其罪正閎、長史安、議郎周霸等：“建當云何？”霸曰：“自大將軍出，未嘗斬裨將，今建棄軍，可斬，以明將軍之威。”閎、安曰：“不然。兵法‘小敵之堅，大敵之禽也。’今建以數千當單于數萬，力戰一日余，士皆不敢有二心。自歸而斬之，是示後無反意也。不當斬。”青曰：“青幸得以肺附待罪行間，不患無威，而霸說我以明威，甚失臣意。且使臣職雖當斬將，以臣之尊寵而不敢自擅專誅於境外，其歸天子，天子自裁之，於以風為人臣不敢專權，不亦可乎？”官吏皆曰“善”。遂囚建行在所。