Karel Fiala pochází z Ostravy a původně se vyučil kominíkem, jeho zájem o zpěv jej pak ale přivedl na Státní konzervatoř do Prahy, kterou absolvoval v roce 1952. Poté dva roky působil v Národním divadle a od roku 1956 byl několik desetiletí jako tenor sólistou Hudebního divadla v Karlíně. Za zmínku stojí jeho role v operetách Rosemarie, My Fair Lady nebo Veselá vdova.
Karel Fiala je potřetí ženatý a má čtyři syny.