Je považován za jednoho z největších režisérů švédského Královského divadla ve Stockholmu, kde působil od roku 1927 do konce 30. let. V roce 1929 natočil první film Nejsilnější, od té doby se před kameru příležitostně vracel.
Sjöberg natočil svá nejlepší díla v padesátých letech. Jeho filmy měly obvykle složité zápletky a vyznačovaly se silným vizuálním smyslem, směsí realismu a expresionismu.
Alf je také dvojnásobným vítězem Zlaté palmy na filmovém festivalu v Cannes za snímky Fröken Julie (1951) a Iris och löjtnantshjärta (1946).
V pozdějších letech se Alf Sjöberg vrátil na jeviště.