弗萊明出生在蘇格蘭的亞爾郡，他的父親是個勤儉誠實的農夫，生了八個孩子，弗萊明是最小的一個。由於家道中落，他不能完成高等教育，十六歲便要出來謀生;在二十歲那年，承受了姑母的一筆遺產，才可以繼續學業。二十五歲醫學院畢業之後，便一直從事醫學研究工作。
在1928年，弗萊明在倫敦大學講解細菌學，無意中發現黴菌有殺菌作用，這種黴菌在顯微鏡下看來像刷子，所以弗萊明便叫它為“盤尼西林” (Penicillin 的原意是有細毛的) 。從這時開始，弗萊明便對盤尼西林作系統的研究，到了1938年，盤尼西林才正式在病人身上使用。在第二次世界大戰期間，盤尼西林救活了無數人的生命。
弗萊明是一個腳踏實地的人。他不尚空談，只知默默無言地工作。起初人們並不重視他。他在倫敦聖瑪麗醫院實驗室工作時，那裡許多人當面叫他小弗萊，背後則嘲笑他，給他起了一個外號叫“蘇格蘭老古董”。
有一天，實驗室主任賴特爵士主持例行的業務討論會。一些實驗工作人員口若懸河，譁眾取寵，惟獨小弗萊一直沉默不語。賴特爵士轉過頭來問道:
“小弗萊，你有甚么看法?”
“做。” 小弗萊只說了一個字。他的意思是說，與其這樣不著邊際地誇誇其談，不如立即恢復實驗。
到了下午五點鐘，賴特爵士又問他:
“小弗萊，你現在有甚么意見要發表嗎?”
“茶。”原來，喝茶的時間到了。
這一天，小弗萊在實驗室里就只說了這兩個字。
弗萊明像往日那樣細心地觀察培養葡萄球細菌的玻璃罐。
“唉，罐里又跑進去綠色的霉!”弗萊明皺了眉頭。
“奇怪，綠色霉的周圍，怎么沒有葡萄球細菌呢?難道它能阻止細菌的生長和繁殖 ?”細心的弗萊明不放過一個可疑的現象，苦苦地思慮下去。
他進行了一番研究，證賞這種綠色霉是殺菌的有效物質。他給這種物質起個名字: 青黴素。有了這個發現，人類又從死神的手裡奪回許多生命。