Elem Germanovič Klimov se narodil v červenci 1933 ve Stalingradu - dnešním Volgogradu. Pocházel z vrstev nové sovětské inteligence, která profitovala ze změny poměrů a rychlé industrializace. Jeho rodiče byli aktivní straníci a Klimovovo jméno Elem je složené z počátečních písmen zakladatelů komunistického učení Engelse, Lenina a Marxe. Ovlivněn přáním rodičů vystudoval letecké inženýrství v Moskevském leteckém institutu a krátce pracoval jako letecký konstruktér. Brzy jej ale zlákala žurnalistika a přes články o filmovém umění se propracoval ke studiu režie na filmové fakultě VGIK. Absolvoval ji pod vedení Jefima Dzigina.
Dalším filmem byla temná satirická komedie ZUBAŘOVA DOBRODRUŽSTVÍ (1965) pojednávající o osudech mladého dentisty v provinční nemocnici. Ten má výjimečné nadání pro bezbolestné ošetřování svých pacientů a čelí závisti svých kolegů a vedení nemocnice. Snímek byl inspirován tvorbou významného francouzského komika J. Tatiho. Ostrakizace nadaného jedince ve filmu ale vyvolala u cenzorů asociaci s postavením disidentů v sovětské společnosti a Klimovovi bylo uloženo, aby některé scény přetočil. Když odmítl, film šel do distribuce jen v minimálním počtu kin - přesto vyvolal velký společenský ohlas. Klimov se v očích nadřízených definitivně zapsal jako potížista a dlouho nemohl natáčet. Výjimkou byl dokument SPORT, SPORT, SPORT (1970) o vztahu člověka k sportovnímu zápolení, natočený podle scénáře Klimovova bratra.
Když v době Brežněvovy vlády nemohl pracovat, soustředil se na psaní scénáře a přípravy natáčení historického dramatu AGÓNIE, KONEC RASPUTINA, který dokončil v roce 1974. Zatímco svými dvěma předchozími díly sovětské vedení jen provokoval, nyní stranické byrokraty konečně rozzuřil a film putoval rovnou do trezoru, třebaže Klimov ve snaze protlačit snímek do kin nešel ve své výpovědi na ostří nože. Drama o rozkladu a zániku ruské monarchie ale někteří vnímali jako podobenství rozkladu soudobé sovětské společnosti. Klimov měl řadu dalších let zákaz a jeho slavný film byl po řadě překážek vpuštěn do distribuce až v roce 1981. Během půstu v 70. letech se režisérovi povedlo pouze dokončit Rommův dokument A PŘECE JEN VĚŘÍM.
V roce 1979 ho vedle nepřízně sovětských úřadů zasáhla další rána. Při tragické autonehodě zemřela jeho žena, nadaná a slavná režisérka Larisa Šepiťková. S touto ztrátou se Klimov nikdy zcela nevyrovnal. O manželce natočil dokument LARISA (1980) a dokončil její rozpracovaný film LOUČENÍ S MAŤOROU o osudech Sibiřanů nucených kvůli stavbě přehrady opustit své domovy. Film vycházel z novely V. Rasputina. I tento snímek měl potíže s cenzurou a jeho premiéra se výrazně opozdila (u nás byl uveden až v roce 1987).