1945年、数学者
ジョン・フォン・ノイマンは
EDVACと呼ばれる新しいコンピュータの基礎的レポートでALUの概念を提案した。
1946年、彼はその提案を発展させて
プリンストン高等研究所(IAS)でコンピュータの設計に従事し、その
IASマシンが後の多くのコンピュータの原型となった。その提案の中で、ALUなどの彼が必要と信じたものについて概説したのである。フォン・ノイマンは、コンピュータを四則演算を含む基本的な数学の計算をするものと定義し、そのための専用の器官(ALU)が必須であると述べた。