Narodil se 3. Ledna 1929 v Římě a už jako teenager pracoval jako pomocný režisér amerických a italských filmových štábů. U filmu zůstal i během studia práv. Vyzkoušel si také profesi scénaristy, herce a střihače. Zlom v jeho kariéře nastal v roce 1964, kdy natočil film PRO HRST DOLARŮ s tehdy ještě málo známým Clintem Eastwoodem v hlavní roli. Následovaly snímky PRO PÁR DOLARŮ NAVÍC (1965) a HODNÝ, ZLÝ A OŠKLIVÝ (1966). Těmito díly zakončil takzvanou dolarovou trilogii.
Sám Sergio Leone nikdy nemluvil anglicky a při režírování si nechal překládat. Díky jeho filmům se proslavil také hudební skladatel Ennio Morricone. Byl to také Leoneho bývalý spolužák a skládal hudbu pro všechny jeho filmy. Jeho manželkou byla Carla Leone, se kterou měl dvě dcery, Francescu a Raffaellu. Jeho celoživotním snem bylo přetočit Sever a Jih a stal se oblíbencem Quentina Tarantina.
Sergio Leone umírá 30. dubna 1989 v rodném Římě po těžké nemoci na srdeční infarkt.