Jeho celé meno je John Edmund Mulaney. Jeho rodičia sú Ellen Mulaney (Stanton), profesorka práva na Northwestern University a Charles W. Mulaney, Jr., právnik a obchodný partner v medzinárodnej právnickej firme Skadden Arps. Obaja rodičia sú pôvodom írski katolíci. Je tretí zo štyroch detí. Jeho prastarý otec z matkinej strany bol Geroge J. Bates, republikánsky starosta Salemu v Massachusetts a tiež pôsobil ako kongresman pre tento štát. Tu politické pozadie jeho rodiny nekončí, pretože jeho prastrýko, William H. Bates, pracoval taktiež ako kongresman. Rodičia chodili na Georgetown University a Yale spolu s budúcim prezidentom Billom Clintonom, ktorého Mulaney stretol v roku 1992. 5. júla 2014 sa oženil s Annamarie Tendler.
Po absolvovaní Georgetown University roku 2004 sa presťahoval do New Yorku, kde chcel realizovať svoju kariéru komika. Pracoval ako office assistant pre Comedy Central a ako komentátor pre Best Week Ever.
V auguste 2008 sa uchádzal o miesto v Saturday Night Live (SNL). Ako scenárista tam pracoval šesť sérií. Pracoval nielen v zákulisí, ale niekoľkokrát sa objavil aj na obrazovkách v segmente Weekend Update. Spolu s hercom Billom Haderom vytvorili veľmi populárnu postavu Stefon, ktorá sa v programe opakovane objavovala. Mulaney bol nominovaný spolu s ostatnými scenáristami zo SNL 2009 – 2012 na ocenenie Primetime Emmy Award za najlepší scenár pre zábavný program a vyhral za najlepšiu originálnu hudbu a text spolu s Justinom Timberlakom, Sethom Meyersom a Katreese Barnes.
Popri SNL sa venoval stand-upu. Roku 2009 vydal stand-up album The Top Part a o tri roky neskôr stand-up špeciál New In Town, obe pre Comedy Central. V októbri 2013 sa mu podarilo dostať svoj vlastný sitcom Mulaney (2014 – 2015), ktorý bol vysielaný na stanici Fox. Seriál trval len 13 častí, dočkal sa negatívnych recenzií a bol ukončený v máji 2015. Jeho tretí stand-up špeciál s názvom The Comeback Kid odpremiéroval 13. novembra 2015 na Netflixe. Ten bol nominovaný roku 2016 na Primetime Emmy Award za najlepší scenár pre komediálny špeciál.