正元二年(255年)正月，郭淮去世，朝廷即任命陳泰為征西將軍，假節都督雍、涼二州的軍事，即為當時曹魏西部的最高軍事長官。
同年七月，大將軍司馬師病亡，司馬昭控制魏國朝政。蜀將姜維乘司馬師病亡之機，督車騎將軍夏侯霸、征西大將軍張翼等數萬人攻魏。時新上任的雍州刺史王經對陳泰報告，蜀姜維、夏侯霸率軍分三路向祁山、石營、金城攻來，要求分兵迎擊。陳泰認為蜀軍不會分數路而來，要其堅守狄道(今甘肅臨洮)，待他率主力自陳倉(今陝西寶雞東)到達後，再鉗擊蜀軍。八月，姜維到達枹罕(今甘肅臨夏東北)，遂向狄道(今甘肅臨洮)進軍。王經不俟陳泰軍至即擅擊蜀軍。陳泰聞後，便料到會有變故，即遣大軍前往支援。果然，王經先後敗於故關(今甘肅臨洮北)、洮西，大部傷亡或逃亡，僅殘部萬人還保狄道。姜維乘勝圍狄道城。
陳泰星夜馳報朝廷，同時收編王經的殘部，作好進攻準備。不久，大將軍司馬昭命長水校尉鄧艾出任安西將軍，與陳泰併力抗擊蜀軍，並遣太尉司馬孚為後援。鄧艾等人認為“王經精卒破衄於西，賊眾大盛，乘勝之兵既不可當，而將軍以烏合之卒，繼敗軍之後，將士失氣，隴右傾盪。古人有言：‘蝮蛇螫手，壯士解其腕。’《孫子》曰：‘兵有所不擊，地有所不寧。’蓋小有所失而大有所全故也。今隴右之害，過於腹蛇，狄道之地，非徒不守之謂。姜維之兵，是所辟之鋒。不如割險自保，觀釁待弊，然後進救，此計之得者也”(《三國志·魏書·陳泰傳》)。陳泰則認為：“姜維提輕兵深入，正欲與我爭鋒原野，求一戰之利。王經當高壁深壘，挫其銳氣。今乃與戰，使賊得計，走破王經，封之狄道。若維以戰克之威，進兵東向，據櫟陽積穀之實，放兵收降，招納羌、胡，東爭關、隴，傳檄四郡，此我之所惡也。而維以乘勝之兵，挫峻城之下，銳氣之卒，屈力致命，攻守勢殊，客主不同。兵書云：‘修櫓，三月乃成，拒堙三月而後已’。誠非輕軍遠人，繼之詭謀倉率所辦，縣軍遠僑，糧谷不繼，是我速進破賊之時也，所謂疾雷不及掩耳，自然之勢也。洮水帶其表，維等在其內，今乘高據勢。臨其項領，不戰必走。寇不可縱，圍不可久，君等何言如此”(《三國志·魏書·陳泰傳》)？於是分三路進至隴西，避開蜀軍，出其不意地繞過高城嶺(今甘肅渭源西北)，進至狄道東南山上，燃火擊鼓與城內聯絡，守軍見援軍至，士氣大振。姜維也感震驚，只好分兵攻陳泰。姜維督軍沿山進攻，陳泰據險而守，擊退蜀軍。陳泰揚言截斷蜀軍退路，蜀軍震恐，遂於九月二十五日撤軍退走鍾堤(今甘肅臨洮南)，狄道之圍遂解。王經慨嘆道：“糧不至旬，向不應機，舉城屠裂，覆喪一州矣”(《三國志·魏書·陳泰傳》)。陳泰慰勞將士，加強城防工事，增添防守兵力後，率兵還屯上邽(今甘肅天水)。
當初，陳泰聞王經被圍，認為州軍將士索皆一心，姜維定不能克，讓援軍速到還。眾人認為“經奔北，城不足自固，維若斷涼州之道，兼四郡民夷，據關、隴之險，敢能沒經軍而屠隴右。宜須大兵四集，乃致攻討。”司馬昭說：“昔諸葛亮常有此志，卒亦不能。事大謀遠，非維所任也。且城非倉卒所拔，而糧少為急，征西速救，得上策矣”(《三國志·魏書·陳泰傳》)。
陳泰常“以一方有事，輒以虛聲擾動天下”(《三國志·魏書·陳泰傳》)。所以希簡為此上告司馬昭，司馬昭對荀覬(荀彧之子)說：“玄伯沉勇能斷，荷方伯之重，救將陷之城，而不求益兵，又希簡上事，必能辦賊故也。都督大將，不當爾邪”(《三國志·魏書·陳泰傳》)!
甘露元年(256年)，司馬昭將陳泰調回朝廷，任尚書右僕射，負責選舉任命官員。不久，吳將孫峻率軍出淮、泗，擺出欲攻魏的姿態。司馬昭即調陳泰為鎮軍將軍、假節、都督淮北諸軍事，並詔命徐州監軍以下皆受陳泰節制。孫峻退兵後，朝廷又召回陳泰，改任左僕射。