Narodil sa v Orange, New Jersey. Jeho matka bola Írska katolíčka a otec nemecko-americký protestant. Scheider študoval na Columbia High School v Maplewood, NJ, kde ho v roku 1985 zapísali do siene slávy. Herectvo študoval na Rutgers University a Franklin and Marshall College. Po návrate z Air Force sa objavil v New York Shakespeare Festival a vyhral cenu Obie v roku 1968. Scheider sa prvýkrát oženil so Cynthiou Bebout v roku 1968, mali jednu dcéru Maximilia a rozviedli sa v roku 1989. Vo februári sa oženil s herečkou Brendou King, s ktorou mal 2 deti, syna Christiana a dcéru Molly. S Brendou ostal až do smrti 2008.
V roku 1993 podpísal zmluvu na seriál z produkcie S. Spielberga SEAQUEST DSV. Ale v druhej sérii ho diváci kritizovali, že robí zo seriálu svoju vlastnú show a preto NBC muselo urobiť zmeny v scenári a obsadení a Scheider sa rozhodol v tretej sérii opustiť seriál. Niekoľko krát hosťoval v NBC seriáli THIRD WATCH. Scheider bol aj hosťom Saturday Night live 1984-85 a nadaboval sám seba v seriáli FAMILY GUY v epizóde Bill and Peter´s Bogus Journey. Dostalo sa mu ocenenia za celoživotný prínos filmu na SunDeis Film Festivale 2007. Objavil sa aj v epizóde seriálu LAW AND ORDER:CRIMINAL INTENT.
V roku 2004 mu lekári diagnostikovali leukémiu. Zomrel 10. februára 2008 v Little Rock, Arkansas. Mal 75 rokov.