山西舊有“清明細雨催人哀，漠漠(土番)頭野花開，手端祭品肩扛鍬，都為先墳上土來”的民謠，生動地概括了時人的心情與掃墓的特點。春天，民間多修補房舍，以防夏季雨漏。由活人聯想到死人，田間墳頭經過風吹雨淋，往往塌陷低落。清明時節上墳，最大的特點就是剷除墳頭雜草，用新土將墳堆加高加固，習慣稱為整修陰宅，表現了兒孫對先人的哀思。
山西南部地區，人家不論貴賤貧富，上墳時男女都到，表示所有後代都在懷念祖先。北部地區上墳多是男子的事情，婦女一般不到墳瑩。大同、平遙等地，是日傍晚，舊俗婦女們要在大門外放聲大哭，“闔村哀聲連一片，傳入耳中都是悲”。山西南部多數地方上墳時不燃香、不化紙，要將冥錢等物懸掛墳頭，有“清明墳頭一片白”的說法。原因是寒食節習慣禁火，而清明節又在寒食節期間。山西北部多數地方卻要將冥錢等物全部燒盡，理由是不燒盡就轉不到先人手裡。大同等地又習慣白日上墳，晚上在家中焚燒冥錢冥帛。
晉西北的河曲等地，舊俗上墳要帶酒肴，祭畢祖先，便在墳地里飲食，意寓與先人共飲共食。晉南的聞喜等地，上墳時要用嵌棗糕在墳堆上滾來滾去，傳說是為死去的老人抓痒痒。晉中的介休等地，上墳時供品為麵餅，形如盤蛇。回家後將麵餅放在院裡，吹曬乾以後再吃。老人們講究可治病，其源蓋出於寒食禁火的緣故。
晉南地區上墳後，回家時要拔些麥苗，並在門上插松枝柏葉或柳條以辟邪。晉北地區多插柳條。還有的地方，在墳上也插一些柳條。
清明節，晉南地區民間要蒸大饃，中夾核桃、紅棗、豆子之類，稱為子福。取意子孫多福，全憑祖宗保佑。家家還要做黑豆涼粉，切薄塊灌湯而食。鏟萎蕤草，在炕席上搓拉，名曰驅蠍。晉東南地區，人人頭上插柳枝枯葉。婦女要用描金彩勝(頭飾)貼在兩鬢。晉北地區，習慣生黑豆芽，並用玉米面包黑豆芽餡食用。晉西北地區講究用黍米磨麵作餅，俗稱“攤黃兒”，呂梁地區在清明後一天，要接女邀婿，俗稱“清新火”。[20]
河曲縣清明節以黍米磿面作餅，稱為“攤黃兒”。壽陽縣清明節，男女兒童皆剪彩紙成串戴在頭上，據說這是古代“彩勝”的遺風。翼城縣民預煮黑面涼粉，於清明節切薄片，淋上湯汁來吃。解州清明停止一切女紅，據說此日動針線者，會成為瞎子。平陸縣兒童清明節頭上以麥系發，祈求長壽。