Alexander var fæddur á Gili í Borgarsveit í Skagafirði og var sonur Jóhannesar Davíðs Ólafssonar sýslumanns og konu hans Margrétar Guðmundsdóttur. Þau hjónin voru bræðrabörn og voru feður þeirra báðir bræður Ingibjargar, konu Jóns Sigurðssonar forseta. Alexander varð stúdent frá Menntaskólanum í Reykjavík 1907 og stundaði síðan nám í þýsku við Kaupmannahafnarháskóla og lauk meistaraprófi 1913. Þá fór hann til náms í Leipzig og Halle í Þýskalandi og lauk doktorsprófi frá háskólanum í Halle 1915. Hann kenndi síðan þýsku við Háskóla Íslands og jafnframt íslenska málfræði og germanska samanburðarmálfræði. Hann varð dósent 1926, prófessor 1930 og gegndi rektorsembætti 1932-1935, 1939-1942 og 1948-1954.

Dr. Alexander átti mikinn þátt í að móta háskólahverfið sem formaður byggingarnefndar Háskóla Íslands og byggingarnefndar Nýja Garðs, Þjóðminjasafns og Íþróttahúss Háskólans. Hann sat einnig í stjórn Háskólabíós og Happdrættis Háskólans, Hins íslenska bókmenntafélags og Almenna bókafélagsins og var formaður Orðabókarnefndar. Hann var einnig formaður Lýðveldishátíðarnefndarinnar sem annaðist undirbúning lýðveldishátíðarinnar á Þingvöllum 17. júní 1944.

Dr. Alexander skrifaði ýmsar bækur, bæði fræðirit og kennslubækur, auk þess sem hann skrifaði um bókmenntir og þýddi ljóð. Einnig skrifaði hann mikið í blöð og tímarit.

Hann var mikill áhugamaður um flugmál og aðalhvatamaðurinn að stofnun Flugfélags Íslands (númer tvö) árið 1928 og var framkvæmdastjóri þess. Alexandersflugvöllur við Sauðárkrók, sem er rétt hjá fæðingarstað Alexanders á Gili, heitir eftir honum. Einnig var einni breiðþotu flugfélagsins Atlanta gefið nafn Alexanders árið 1998.