Wilson se narodil 23. června 1947 v indiánské rezervaci Siouxů v Jižní Dakotě. Byl synem plnokrevné Siouxky a irského otce. Wilson byl vychován v rezervaci a na kytaru začal hrát v raném věku. Byl ovlivněn tradiční hudbou svého lidu a také rokenrolem 50. a 60. let.
Po střední škole se Wilson přestěhoval do Minneapolis v Minnesotě. kde založil kapelu s názvem Sugarloaf se svým švagrem Craigem Fullerem a kolegou zpěvákem a skladatelem Michaelem Omartianem.
Skupina měla určitý úspěch a nahrála dvě alba pro RCA Records, než se v roce 1971 rozpadla.
Po rozpadu Sugarloaf Wilson se přestěhoval do Los Angeles v Kalifornii, kde založil Pure Prairie League v roce 1972.
Kapela si rychle získala příznivce a během 70. let vydala řadu úspěšných alb.
Mezi jejich nejoblíbenější písně patří „ Amie“ , "Padlí andělé" a „ Let Me Love You Tonight ".
V roce 1979 Wilson opustil Pure Prairie League, aby se vydal na sólovou dráhu.
Vydal dvě sólová alba "Jeff Wilson" (1981) a „Nikdy nebuď stejný“ (1983), ale nebyly tak úspěšné jako jeho práce s Pure Prairie League.
Wilson pokračoval v turné a koncertování v průběhu 80. a 90. let, ale jeho zdraví se začalo zhoršovat koncem 80. let. Byla mu diagnostikována rakovina hrdla a podstoupil několik cyklů léčby.
Dne 12. prosince 1991 zemřel Jeff Wilson na rakovinu hrdla ve věku 44 let .
Zůstala po něm manželka, dvě dcery a dva synové.