Arpad Emrick Elo wurde am 25. August 1903 im Ungarischen Papa als Sohn eines Bauern geboren. Im Alter von 10 Jahren emigrierte er in die USA. In Cleveland sah er in einem Geschäft Schachfiguren, was ihn veranlasste sich das Spiel mit Hilfe einer Ausgabe der Encyclopedia Britannica aus der Schulbibliothek selber beizubringen. Er studierte Physik an der Universität von Chicago, seit 1926 lehrte er als Professor für Physik an der Marquette-Universität in Milwaukee und blieb dort bis zu Beginn seines Ruhestandes im Jahr 1969. Danach unterrichtete er noch auf Teilzeit-Basis an der Universität von Wisconsin.
Schach blieb sein geliebtes Hobby, er nahm an vielen Turnieren teil, wo er u.a. gegen bekannte Spieler wie Fine, Kashdan und auch Fischer antrat, und von denen er 40 gewinnen konnte. 1935 wurde er erstmals Meister von Wisconsin, insgesamt konnte er diesen Titel achtmal erringen, beim U.S.Open 1940 belegte er den 7.Platz.
Elo war maßgeblich an der Gründung der United States Chess Federation (USCF) beteiligt, die 1939 durch Zusammenschluss der American Chess Federation (vorher Western Chess Federation), dessen Präsident Elo von 1935 bis 1937 war, und der National Chess Federation entstand und Mitglied im Präsidium des neuen Verbandes.
1959 wurde Elo vom USCF-Präsidenten Jerry Spann gebeten, das von Kenneth Harkness entwickelte System der Wertungszahlen zu verbessern. Das System hatte einige Schwächen. So konnte man unter bestimmten Umständen jede Partie verlieren und trotzdem Wertungspunkte gewinnen, oder umgekehrt jede Partie gewinnen und trotzdem Punkte verlieren.
Das neue Elo-System wurde 1960 von der USCF übernommen und 1970 auch vom Weltschachverband Fide. Lange Jahre hat Arpad Elo per Hand die Wertungszahlen für die Fide auf seinem HP-Rechner ausgerechnet.
1978 erschien Elos Buch: The Rating of Chessplayers Past und Present", in dem er neben der Vorstellung seines Bewertungssystems auch eine Rangliste historischer Spieler veröffentlichte.
Gegen Ende seines Lebens zeigt sich Elo enttäuscht darüber, was die Schachwelt aus seiner Wertungsformel gemacht hat: "Manchmal denke ich, ich habe Frankensteins Monster erschaffen! Die jungen Spieler interessieren sich mehr für die Elo-Wertung als für die Dinge auf dem Brett."
Arpad Elo starb am 5.11.1992 im Alter von 89 Jahren.