劉懷珍，字道玉，平原人，漢膠東康王寄後也。祖昶，宋武帝平齊，以為青州治中，至員外常侍。伯父奉伯，宋世為陳南頓二郡太守。懷珍幼隨奉伯至壽陽，豫州刺史趙伯符出獵，百姓聚觀，懷珍獨避不視，奉伯異之，曰："此兒方興吾宗。"本州辟主簿。元嘉二十八年，亡命司馬順則聚黨東陽，州遣懷珍將數千人掩討平之。宋文帝召問破賊事狀，懷珍讓功不肯當，親人怪問焉，懷珍曰："昔國子尼恥陳河間之級，吾豈能論邦域之捷哉！"時人稱之。
江夏王義恭出鎮盱眙，道遇懷珍，以應對見重，取為驃騎長兼墨曹行參軍。尋除振武將軍、長廣太守。孝建初，為義恭大司馬參軍、直閣將軍。懷珍北州舊姓，門附殷積，啟上門生千人充宿衛。孝武大驚，召取青、冀豪家私附得數千人，土人怨之。隨府轉太宰參軍。大明二年，虜圍泗口城，青州刺史顏師伯請援。孝武遣懷珍將步騎數千赴之，於麋溝湖與虜戰，破七城。拜建武將軍、樂陵河間二郡太守，賜爵廣晉縣侯。明年，懷珍啟求還，孝武答曰："邊維須才，未宜陳請。"竟陵王誕反，郡豪民王弼勸懷珍應之，懷珍斬弼以聞。孝武大喜，除豫章王子尚車騎參軍，加龍驤將軍。
泰始初，除寧朔將軍、東安東莞二郡太守，率龍驤將軍王敬則、姜產步騎五千討壽陽。廬江太守王仲子南奔，賊遣偽廬江太守劉道蔚五千人頓建武澗，築三城。懷珍遣軍主段僧愛等馬步三百餘人掩擊斬之。引軍至晉熙，偽太守閻湛拒守，劉子勛遣將王仲虬步卒萬人救之，懷珍遣馬步三千人襲擊仲虬，大破之於莫邪山，遂進壽陽。又遣王敬則破殷琰將劉從等四壘於橫塘死虎，懷珍等乘勝逐北，頓壽春長邏門。宋明帝嘉其功，除羽林監、屯騎校尉，將軍如故。懷珍請先平賊，辭讓不受。建安王休仁濃湖與賊相持，久未決。明帝召懷珍還，拜前將軍，加輔國將軍，領軍向青山助擊劉胡，事平，除游擊將軍，輔國將軍如故。
青州刺史沈文秀拒命，明帝遣其弟文炳宣喻，使懷珍領馬步三千人隨文炳俱行。未至，薛安都引虜，徐、兗已沒，張永、沈攸之於彭城大敗。敕懷珍步從盱眙自淮陰濟淮救永等，而官軍為虜所逐，相繼奔歸，懷珍乃還。三年春，敕懷珍權鎮山陽。先是明帝遣青州刺史明僧暠北征，僧暠遣將於王城築壘，以逼沈文秀，塹壁未立，為文秀所破，仍進攻僧暠。帝使懷珍率龍驤將軍王廣之五百騎，步卒二千人沿海救援，至東海，而僧暠已退保東萊。懷珍進據朐城，眾心忷懼，或欲且保郁州。懷珍謂眾曰："卿等傳文秀厚賂胡師，規為外援，察其徒黨，何能必就左衽。齊士庶見於名義積葉，聲介一馳，東萊可飛書而下，何容阻軍緩邁止於此邪？"遂進至黔陬。偽高密、平昌二郡太守潰走，懷珍達朝廷意，送致文炳，文秀終不從命，焚燒郭邑。百姓聞懷珍至，皆喜。偽長廣太守劉桃根領數千人戍不其城，懷珍引軍次洋水。眾皆曰："文秀今游騎滿境內，宜堅壁伺隙。"懷珍曰："今眾少糧單，我懸彼固，政宜簡精銳，掩其不備耳。"遣王廣之將百騎襲陷其城，桃根走。偽東萊太守鞠延僧數百人據城，劫留高麗獻使。懷珍又遣寧朔將軍明慶符與廣之擊降延僧，遣高麗使詣京師。文秀聞諸城皆敗，乃遣使張靈碩請降，懷珍乃還。
其秋，虜遂侵齊，圍歷城、梁鄒二城，游騎至東陽，擾動百姓。冀州刺史崔道固、兗州刺史劉休賓告急。休賓，懷珍從弟也。朝廷以懷珍為使持節、都督徐兗二州軍事、輔國將軍、平胡中郎將、徐州刺史，封艾縣侯，邑四百戶，督水步四十餘軍赴救。二城既沒，乃止。改授寧朔將軍、竟陵太守，轉巴陵王征西司馬，領南義陽太守。建平王景素為荊州，仍徙右軍司馬，遷南郡太守，加寧朔將軍。明帝手詔懷珍曰："卿性忠讜，平所仗賴。在彼與年少共事，不可深存受益。景素兒乃佳，但不能接物，頗亦墮事，卿每諫之。"懷珍奉旨。帝寢疾，又詔懷珍曰："卿不應乃作景素佐，才舊所寄，今征卿參二衛直。"會帝崩，乃為安成王撫軍司馬，領南高平太守。
朝廷疑桂陽王休范，中書舍人王道隆宣旨，以懷珍為冠軍將軍、豫章太守。懷珍曰："休范須有禍萌，安敢便發，若終為寇，必請奉律吞之。今者賜使，恐成猜迫。"固請不就，乃除黃門郎，領虎賁中郎將、青州大中正。桂陽反，加懷珍前將軍，守石頭。為使持節、督豫司二州郢州之西陽軍事、冠軍將軍、豫州刺史。建平王景素反，懷珍遣子靈哲領兵赴京師。升明元年，進號征虜將軍。
沈攸之在荊楚，朝議疑惑，懷珍遣冗從僕射張護使郢，致誠於世祖，並陳計策。及攸之起兵，眾謂當沿流直下，懷珍謂僚佐曰："攸之矜躁夙著，虐加楚服，必當阻兵中流，聲劫幼主。不敢長驅決勝明矣。"遣子靈哲領馬步數千人衛京師。攸之遣使許天保說結懷珍，懷珍斬之，送首於太祖。太祖送示攸之。進號左將軍，徙封中宿縣侯，增邑六百戶。攸之圍郢城，懷珍遣建寧太守張謨、游擊將軍裴仲穆統蠻漢軍萬人出西陽，破賊前鋒公孫方平軍數千人，收其器甲。進平南將軍，增督南豫、北徐二州，增邑為千戶。