祖沖之在數學上的傑出成就，是關於圓周率的計算。
秦漢以前，人們以"徑一周三"做為圓周率，這就是"古率".後來發現古率誤差太大，圓周率應是"圓徑一而周三有餘"，不過究竟余多少，意見不一.直到三國時期，劉徽提出了計算圓周率的科學方法--"割圓術"，用圓內接正多邊形的周長來逼近圓周長.劉徽計算到圓內接96邊形， 求得π=3.14，並指出，內接正多邊形的邊數越多，所求得的π值越精確.祖沖之在前人成就的基礎上，經過刻苦鑽研，反覆演算，求出π在3.1415926與3.1415927之間.並得出了π分數形式的近似值，取為約率 ，取為密率，其中取六位小數是3.141929，它是分子分母在1000以內最接近π值的分數.祖沖之究竟用什麼方法得出這一結果，現在無從考查.若構想他按劉徽的"割圓術"方法去求的話，就要計算到圓內接16，384邊形，這需要化費多少時間和付出多么巨大的勞動啊!
由此可見他在治學上的頑強毅力和聰敏才智是令人欽佩的.祖沖之計算得出的密率， 外國數學家獲得同樣結果，已是一千多年以後的事了.為了紀念祖沖之的傑出貢獻，有些外國數學史家建議把π=叫做"祖率"。