Narodil se 17. ledna 1931v Arkanbutle státu Mississippi. Jeho oter Rober Earl Jones byl známý herec a boxerský šampion. Vyrůstal na farmě v Michiganu u prarodičů. Po maturitě na Norman Dickson High School, chtěl dále studovat medicínu, ale nakonec roku 1953 vystudoval dramatické umění na University of Michigan v Ann Arboru. James Earl Jones se dvakrát oženil, prvně v roce 1967 a v roce 1982 s Cecilií Hartovou.
Díky svému zvučnému a výraznému hlasu zazněl v mnoha reklamách, podílel se na profilování televizní stanice CNN. Nadaboval i kresleného Dartha Vadera z HVĚZDÝCH VÁLEK. Nejčastěji hrál vedlejší nebo malé role. Byl hlavní postavou ve filmu ČLOVĚK, kde ztvárnil prezidenta černé pleti.
V letech 1979-1980 hrál v krimi seriálu PARIS, kde hrál kapitána policie a v roce 1984 hrál v seriálu ME AND MOM. V roce 1991 získal hned dvě ceny Emmy za seriál GABRIEL'S FIRE a drama HORKÁ VLNA. V roce 1986 znovu dostal cenu Tony za broawayskou inscenaci FENCES. Byl jmenován čestným doktorem umění a byla mu udělena medaile Americkou akademií.