Jóhann var fæddur í Laufási 26. september 1850 . Foreldrar hans voru Einar Erlendsson (1823–1909) og Sigríður Þorsteinsdóttir (1817–1892). Fjögurra ára gamall fluttist Jóhann með foreldrum sínum að Nesi í Fnjóskadal og þar bjuggu þau í tvö ár og önnur tvö á Fremstafelli í Köldukinn. Síðar bjuggu þau að Hallgilsstöðum og loks á Vatnsenda í Ljósavatnsskarði. Þegar Jóhann var innan við tvítugt var hann einn vetur á Svalbarði í Þistilfirði hjá séra Gunnari Gunnarssyni.

Árið 1877 kvæntist Jóhann Kristínu Salóme Jónsdóttur (1854–1885) og bjuggu þau fyrst í Grjótárgerði í Fnjóskadal og síðar á Víðivöllum í sömu sveit. Meðfram bústörfum stundaði Jóhann kennslustörf um margra ára skeið. Eftir að hann missti konu sína brá Jóhann búi og dvaldi m.a. á Hólum í Hjaltadal einn vetur við kennslustörf.

Árið 1890 hóf Jóhann aftur búskap á Víðivöllum og kvæntist þá Ingibjörgu Jónsdóttur (f. 1852). Með fyrri konu sinni eignaðist Jóhann tvær dætur, Guðrúnu (1878–1960) og Jónasínu (1881–1921) og með seinni konu sinni átti hann tvö börn, Gunnar (1890–1890) og Þorbjörgu (1892–1978).

Jóhann lést 16. febrúar 1924.