Zřejmě nejznámější rolí Johna Williamse byl bystrý inspektor Hubbard v Hitchcockově DIAL M FOR MURDER (1954). Stejnou roli si zahrál i na divadelních prknech. V roce 1953 za svůj výkon získal nominaci na cenu Tony pro nejlepšího divadelního herce ve vedlejší roli. Jeho americkým divadelním debutem byla hra The Fake z roku 1924.