觀音山是山寺的代表，座落在蜀崗最高的東峰，是揚州的自然制高點。
構寺者在山頂隨山勢築殿，山上古樹蔽日、紅牆高聳、山廟一體，建築都與平原寺嚴謹的對稱構造不同，樓殿參差，曲折幽深，繼承了隋煬帝在此所建迷樓的風格。
寺院裡辟有紫竹林，漫步其間，清爽異常。觀音山寺的佛像不同於一般寺院以“釋迦牟尼”為主像，而以“菩薩”為主佛像，其中又突出觀音菩薩，面容慈善、秀麗嫵媚、溫柔嫻靜、已世俗化。觀音山的香市極盛，特別是陰曆二月十九日的觀音誕日。
現寺內還供有緬甸仰光市政府贈送的玉佛。山頂池塘稱“天池”。此山被譽為“第一靈山”。