讀書時，他的成績從沒進過前三名。他的理想是上北大，但最後他只上了杭州師院，還是個專科，而且考了3年。第一年高考他數學考了1分，第二年19分。
馬雲後來常說自己的創業經歷至少可以證明：“如果我馬雲能夠創業成功，那么我相信中國80%的年輕人都能創業成功。”·
大學畢業後，馬雲當了6年半的英語老師。期間，他成立了杭州首家外文翻譯社，用業餘時間接了一些外貿單位的翻譯活。錢沒掙到多少，倒是闖出了一點名氣。1995年，“杭州英語最棒”的馬雲受浙江省交通廳委託到美國催討一筆債務。
結果是錢沒要到一分，倒發現了一個“寶庫”——在西雅圖，對計算機一竅不通的馬雲第一次上了網際網路。剛剛學會上網，他竟然就想到了為他的翻譯社做網上廣告，上午10點他把廣告傳送上網，中午12點前他就收到了6個email，分別來自美國，德國和日本，說這是他們看到的有關中國的第一個網頁。“這裡有大大的生意可做！”馬雲當時就意識到網際網路是一座金礦。
噩夢般的討債之旅結束了，馬雲灰溜溜地回到了杭州，身上只剩下1美元和一個瘋狂的念頭。成為“阿里巴巴”馬雲的想法是，把中國企業的資料集中起來，快遞到美國，由設計者做好網頁向全世界發布，利潤則來自向企業收取的費用。
馬雲相信“時不我待，捨我其誰”！找了個學自動化的“拍檔”，加上妻子，一共三人，兩萬元啟動資金，租了間房，就開始創業了。這就是馬雲的第一家網際網路公司——海博網路，產品叫做“中國黃頁”。在早期的海外留學生當中，很多人都知道，網際網路上最早出現的以中國為主題的商業信息網站，正是“中國黃頁”。所以國外媒體稱馬云為中國的mr.internet