任正非祖籍浙江浦江縣。據《我的父親母親》記載：任正非的爺爺是一個做火腿的大師傅，任正非父親的兄弟姊妹都沒有讀過書。由於爺爺的良心發現，也由於爸爸的執著要求，爸爸才讀了書。任母雖然只有高中文化程度，但是受丈夫影響，通過自修，當上了中學教員。1944年，任正非出生於貴州安順地區鎮寧縣一個貧困山區的小村莊。世界著名的黃果樹大瀑布就在那裡。雖然是農村，卻是一個知識分子家庭。家庭背景是任正非一生第一個決定性因素。中國的知識分子對知識的重視和追求，可謂“貧賤不能移”。即使在三年自然災害時期，任的父母仍然堅持從牙縫裡擠出糧食來讓孩子讀書。任正非憑藉其才智和能力，完全可以在養豬行業獲得成功，也可以成為一個能工巧匠，但是對知識的追求，使他進入了一個技術密集型行業。
19歲時，任正非帶著父母的重望考上了重慶建築工程學院。。還差一年畢業的時候，“文化大革命”開始了。父親被關進了牛棚，任正非回到老家看望父母，父親讓他快回學校去。臨走，父親叮囑：“記住知識就是力量，別人不學，你要學，不要隨大流。”據任正非回憶，回到重慶，已經是“槍林彈雨的環境”。但是，他硬是不為所動，把電子計算機、數位技術、自動控制……自學完，他的家人也開玩笑說，沒什麼用的東西也這么努力學，真是很佩服、感動。由於結交了一些西安交大的老師，這些老師經常給他一些油印的書看。他另外還把樊映川的高等數學習題集從頭到尾做了兩遍，接著學習了許多邏輯、哲學。他自學了三門外語，當時已到可以閱讀大學課本的程度。任正非的知識淵博，見解獨到，在他的講話中體現為旁徵博引，一針見血。
33歲參加全國科學大會,任正非對知識的追求，在進入部隊之後，落實到技術鑽研。當時貴州安順地區有一個飛機製造廠，是個軍工企業，身為通訊兵的他被抽調過去，參與一項代號為011的軍事通訊系統工程。當時xx提出要重視高科技的作用。任正非上進好學，有多項技術發明創造，兩次填補國家空白。因技術方面的多次突破，被選為軍方代表，到北京參加全國科學大會。時年33歲。看了這些經歷，我們就不難理解，任正非從部隊轉業後會選擇一家電子公司，而在創辦華為的時候會選擇高科技含量的電信行業。1992年，任正非孤注一擲投入c＆c08機的研發，雖然是形勢所逼，也可以看出他對技術的重視。當時身處房地產熱和股票熱的核心地帶，任正非不僅不為所動，而且對於股票和泡沫深惡痛絕。其實在他內心更多的是對知識、技術和真才實學的尊重。同樣，把“保證按銷售額的10%撥付研發經費，有必要且可能時還將加大撥付比例”寫進《華為基本法》，也體現了他以技術立身的理想。在《華為基本法》的起草和討論中，產生了一個對中國高科技產業發展有重要影響的概念——知本主義。民營企業的資本積累過程非常緩慢，原因就在於積累手段的缺乏，既無資金，也無資源，也無技術。起始資本都非常小，不足以迅速滾大。因此只有依靠冒險、機會甚至“打擦邊球”。任正非總結華為的資本積累說：“華為在創業時期，沒有資本，只有知本，華為的資本是靠知本積累起來的。”即使從現在來看，進入資金和技術密集型產業，對民營企業來說，仍然是冒險，成功是奇蹟。
青年時代的任正非，就是一個科學精神的追隨者。1997年訪問美國公司時，在ibm任正非表現出更多的敬畏，而在貝爾實驗室，則是“十分高興”。“我年青時代就十分崇拜貝爾實驗室，仰慕之心超越愛情。”他參觀了大廳中的貝爾實驗室名人成就展。在巴丁的紀念欄下照了像。並特意懷著崇敬心情去巴丁50年前發明晶體三極體的工作檯前站了一會。當看到貝爾實驗室的科學家的實驗室密如蛛網，混亂不堪，不由得對這些勇士，肅然起敬。華為不知是否會產生這樣的勇士。” 2002年前後，華為開始成立預研部。