Rosemary Murphyová se narodila 13. ledna 1927 v Mnichově jako dcera amerického diplomata. Po vypuknutí druhé světové války se její rodina přestěhovala do New Yorku. Zde Rosemary navštěvovala Neighborhood Playhouse a Actors Studio, na divadelní scéně však debutovala v rodném Německu v roce 1949 v Ibsenově dramatu PEER GYNT.
Hrála též ve slavném dramatu Freda Zinnemanna JULIA (1977) po boku Jane Fondové, Vanessy Redgraveové a tehdy začínající Meryl Streepové. Později účinkovala rovněž ve třech filmech Woodyho Allena: ZÁŘÍ (SEPTEMBER - 1987), DON´T DRINK THE WATER (1994) a MOCNÁ AFRODITÉ (MIGHTY APHRODITE - 1995). I v pokročilém věku je Rosemary Murphyová stále profesně aktivní, zahrála si například v tragikomedii Tamary Jenkinsové DIVOŠI (THE SAVAGES - 2004) a nově se objevila i v režijním debutu věhlasného oscarového scénáristy Charlieho Kaufmana SYNECDOCHE, NEW YORK (2008).