Matka otěhotněla ještě za svobodna a poté se provdala za elektrikáře, který se pravý stav věcí dozvěděl na vojně. Jeho otčím patřil k sociální menšině "burakuminů" (potomci příslušníků profesí, které se zabývaly "nečistými" činnostmi – řezníci, hrobaři, popeláři apod.) a na Mikuniho tak už v dětství hleděli s předsudky: když se ztratilo kolo, byl automaticky považován za zloděje. Po skončení základní školy čekal, že začně pracovat spolu s otcem; ten ale trval na jeho středoškolském vzdělání. Po nějaké době nechal studií a odešel z domova. Z Tokia byl policií opakovaně odesílán zpátky.
Jeho hereckou kariéru odstartovala jedna nabídka na kamerovou zkoušku. O herectví v té době nejevil pražádný zájem a test absolvoval jenom proto, že za něj měl slíbené potravinové lístky. Zapsal se již svojí první rolí, ve snímku ZEMMA (1951) Keisuke Kinošity, která mu následujícího roku vynesla Modrou stužku - cenu japonských filmových kritiků - pro nejlepšího nováčka. Od svého filmového debutu účinkoval ve více než 150 filmech. Získal tři Ceny Japonské filmové akademie pro nejlepšího herce, jednu zvláštní cenu (2010) a na sedm dalších (za hlavní i vedlejší role) byl nominován.
Modrou stužku pro nejlepšího "hlavního herce" získal v roce 1961 a v roce 1990; podruhé to bylo za drama RIKYU (1989). Modrá stužka pro nejlepšího herce ve vedlejší roli mu byla udělena v roce 1980 za thriller MOJE ÚLOHA JE POMSTA (1979). Rentaró Mikuni napsal a režíroval jediný film a za něj v roce 1987 obdržel Cenu poroty na Filmovém festivalu v Cannes. Zemřel v devadesáti letech na srdeční selhání. Jeho syn Kóiči Sató je rovněž hercem.