1903年12月28日，馮·諾依曼出生在匈牙利布達佩斯的一個猶太人家里。從孩提時起，他就是一個神童，具有超人的智力，6歲 能心算8位數乘、除法，8歲掌握了微積分，12歲就能讀懂近代大數學家所著《函數論》一類的專著，叫人驚嘆不已。很自然，后來在匈牙利的數學競賽中他輕而 易舉地取得了第一名。升入中學后，諾依曼受到了特殊的教育和嚴格的數學訓練，未滿18歲就和指導老師合寫了第一篇數學論文。他能流利地說拉丁語和希臘語， 并在語法修辭方面有真知灼見。諾依曼掌握了7種語言，這成為他在以后的科學研究中不可缺少的工具。大學期間，他同時在兩所大學接受理論和技術方面的嚴格訓 練，并同時獲得蘇黎世高等技術學院化學學士學位和布達佩斯大學數學博士學位。
馮·諾依曼有著驚人的記憶力和敏捷的分析能力，他讀書幾 乎過目成誦，思考問題的快速度也令人贊嘆。有一次，一名數學工作者對一個問題的5種情況用手搖計算機算了一個通宵，第二天去請教諾依曼，他僅用了7分鐘就 把這個問題的5種情況的結果算了出來，接著又用半個小時，找到了更好的簡捷算法，使請教者佩服得五體投地。
1930年諾依曼應聘去美 國普林斯頓大學工作，成為該校高等研究院首批6個常任成員之一（愛因斯坦也是成員之一），從此他就始終站在科學研究的最前沿。諾依曼是20世紀最有成就的 科學家之一，他是作為化學工程師開始進行科研工作的，后來改行搞數學理論物理。在純粹數學、應用數學、計算數學方面都有創造性的突出貢獻；在統計學、流體 動力學、彈道學、氣象學、博弈論等許多領域都有重大建樹。他參加了研制原子彈的曼哈頓計劃，是美國總統任命的國家原子能委員會委員、導彈顧問委員會主席， 還是美國數學學會主席，首屆愛因斯坦獎和費米獎獲得者。從諾依曼這些頭銜和榮譽，你可以了解到諾依曼是20世紀科學王國中多么驍勇的功臣。然而，有一個問 題始終困擾著諾依曼：在研究原子核裂變反應過程中需要大量的計算，計有10億次以上。這些10億以上次的運算大多相當初等，只需在裂變反應的傳播過程中作 出可不可行的“是”與“否”的回答，也就是說，這些大量的計算僅要得出一個“真”與“假”的邏輯解，是純粹的初等邏輯運算。而當時的計算機在邏輯運算方面 是非常欠缺的。諾依曼針對這個問題一直在思考著。一個偶然的機會，諾依曼被引向電子計算機的研究。
一天，諾依曼與正在參加制造 ENIAC的戈德斯坦在火車站見面了。戈德斯坦早就聽說過諾依曼這位世界名流，便主動作自我介紹，兩個人熱情友好地攀談起來。當戈德斯坦談到正在研制電子 裝置計算機時，諾依曼的眼睛為之一亮，談話的氣氛一下子變了，他急切地詢問ENIAC的情況。戈德斯坦介紹ENIAC用真空電子管構成基本邏輯單元，有電 子線路和邏輯運算功能，其速度可以提高1000倍時，諾依曼非常興奮。他迫不及待地提出要看看這臺尚未出世的機器。幾天后，諾依曼來到莫爾學院，認真仔細 地觀看了這臺電子裝置，然后詢問了機器的邏輯結構和整體設計思想。憑著他的天才，他太知道這臺機器的與眾不同了。以后諾依曼就成了莫爾小組的常客，并直接 參與了研制工作，提出了許許多多的改進和完善意見。不過這時ENIAC制造已經接近尾聲，不可能大改大動了。這是非常遺憾的事，大家都認為諾依曼來得太晚 了，可是他的意見使這里的科學家們站得更高了，使他們徹底了解了ENIAC的不足之處。
于是在1945年3月，諾依曼和莫爾小組一起 開始設計和研制一臺全新的存儲程序通用電子計算機，稱之為“離散變數自動電子計算機”，即“EDVAC”，對“ENIAC”做重大改進。諾依曼總結了 ENIAC的優點，明確規定這臺計算機由5部分組成：即運算器，邏輯控制器，存儲器，輸入和輸出。這5部分有各自的職能和相互聯系。
第一個改進是變十進制為二進制。采用二進制的優點，是因為電子元件或線路比較容易實現兩個相互對立的穩定狀態來代表兩個不同的數碼，例如電壓的高與低，正 與負，電子管的通與斷，電訊號的有與無，磁芯的兩種不同的剩磁狀態等等。而且這兩種狀態可以在非常短暫的瞬間互相轉換。這要比用10個不同的穩定狀態來表 示十進制里的10個數碼要簡單得多。人們可能會想到，二進制的每一位只能表示0和l，和十進制相比，在表示同樣一個數字時，若用二進制表示，位數就會增加 很多，在運算處理時要帶來麻煩。但是如果你仔細地想一想，既然二進制位數增多了，但是在處理每一位時，由于一位僅有“0”和“l”兩種狀態，處理起來就會 變得簡單多了。這種簡單大大地抵消了位數增多而帶來的麻煩。使數與數之間的運算變得簡單是重要的，電子元件和線路的高速度，可以使二進制位數增多忽略不 計。所以諾依曼認為電子計算機中的存儲器和運算器按其性能來說最適于二進制，而且執行基本運算時最簡單也最快。另外，諾依曼指出，就計算機的性質講，主要 部分并非運算而是邏輯，而新的邏輯是真與假的二值系統，所以計算機應采用二進制。