Filmovou kariéru zahájil v osmnácti letech herectvím v legendárním experimentálním uskupení FEKS (fabrika excentričeskogo akťora), kde se profiloval jako talentovaný komik. Ačkoli se později realizoval zejména v režii, scenáristice a pedagogické činnosti, hraní nikdy zcela neopustil, což dosvědčuje i role Lva Lolstého, kterou ve svém stejnojmenném autorském titulu ztvárnil ještě rok před smrtí.
Od poloviny 40. let vede Gerasimov režii a herectví na VGIK a počínaje Mladou gardou (1948) začíná své filmy obsazovat vlastními studenty, z nichž formuje opravdové hvězdy (N. Morďukova) a se stejným úspěchem vychovává i generace předních režisérů (T. Lioznova, S. Bondarčuk, K. Muratova). Díky jeho ochraně mohla i v politicky ošemetném období tvořit řada nekonformních autorů a za svou existenci mu vděčí i proslulý film Komisař (1967) A. Askoldova, který před naprostou likvidací ukryl Gerasimov ve svém trezoru, kde se našel až po jeho smrti.