Ve svých začátcích upřednostňoval Jean-Paul Roussillon herectví na divadelním jevišti, až později se začal častěji objevovat i před kamerou, nakonec v závěru kariéry dosáhl několika prestižních úspěchů v divadle i filmu. Jean-Paul Roussillon pocházel z Paříže, herectví začal studovat na dramatické škole de la Rue Blanche a pak pokračoval na Národní konzervatoři, kde byl jeho pedagogem významný herec Denis d′Ines. Ještě jako student hrál v Comédie des Champs Elysées, konzervatoř dokončil v roce 1950 první cenou v oboru klasické komedie.
I na Roussillonově příkladu lze dokumentovat obecně platné pravidlo, že osobnosti spojené s Comédie Française přijímaly nabídky k filmování jen zřídka – jeho filmografie za celá 50. a 60. léta zahrnuje pouhých sedm titulů. Debutoval menší rolí v dramatu TĚLO A ĎÁBEL (Le chair et le diable, 1954), později se objevil v kriminálce ČAS VRAHŮ (Voici le temps des assassins, 1956), potom participoval na adaptacích divadelních předloh, a to nejen ve filmu, ale i v televizi (FIGAROVA SVATBA – Le mariage de Figaro, 1959), mihnul se také ve slavném VÍKENDU NA ZUYDCOOTE (Week-end a Zuydcoote, 1966). V sedmdesátých letech točil Jean-Paul Roussillon výhradně pro televizi.
V roce 1982 opustil Roussillon stálé angažmá v Comédie Française a byl zde jmenován čestným členem. Poté vystupoval v několika pařížských divadlech, původně to bylo Théâtre Odéon, jako režisér pak pro festival v Avignonu realizoval předlohy avantgardního spisovatele Roberta Pingeta, významnou aktivitu pak vyvinul v Théâtre national de la Colline, kde vystupoval především v dílech moderního francouzského dramatika J. C. Grumberga.
Na Roussillonův odchod z Comédie Française navazuje i zvýšená frekvence jeho vstupů před filmovou kameru a již průběhu osmdesátých let vytvořil několik vedlejších rolí v titulech různých žánrů (MUŽSKÁ ZÁLEŽITOST – Une affaire d'hommes, 1982; BAXTER, 1988), znovu také pracoval v televizi. Naši diváci se s ním mohli setkat v postavě mušketýrského sluhy Plancheta v komedii D′ARTAGNANOVA DCERA (La fille d′Artagnan, 1994). Nominaci na Cézara za vedlejší roli mu později vynesl film JEDNA VLAŠTOVKA JARO UDĚLÁ (Une hirondelle a fait le printemps, 2001).