大殿東北面，還有一組排列整齊壯觀的塔林遺址，總面積約200平方米，中央有一座長方形的大佛塔，高約5米，巍然屹立。塔林西北方不遠處是著名的地下佛塔寺院，寺院分地上、地下兩部分，上部已夷為平地，下部內有殘存壁畫，這些可貴的歷史遺存，為西域佛教的研究提供了新的史料。
遊客們，當你們登高俯視交河故城時，可以發現這座古城的建築幾乎全是從天然生土中挖掘而成的，最高建築物有三層樓那么高，古城也因此成為目前世界上最大、最古老也是保存最完好的生土建築城市。望著這呈柳葉形的古城的雄姿，吟詠起古人“黃昏飲馬傍交河”，“紫駝夜渡交河月”的詩句，不禁使人思緒聯翩，感慨萬千……