Il suo vero nome era Carl Henry Vogt. Assiduo in teatro, soprattutto in rappresentazioni shakespeariane, fa il suo ingresso nel cinema muto all'inizio degli anni '20. Dopo diversi ruoli comparsati, assume una propria dimensione grazie al suo fisico aitante unito ad eleganza e modi affabili. E' chiamato come caratterista in numerosi film di pregio, dove mostra particolare propensione verso figure drammatiche e, in alcuni casi losche, come quella nel noir Giungla d'asfalto di John Huston, probabilmente la sua migliore interpretazione. In seguito ricopre ruoli per quasi tutti i generi compresi i kolossal in costume e nel famoso Giulio Cesare di Mankiewicz ricopre la parte del dittatore con spirito vero ma con eccessivo ciglio mussoliniano, così voluto dalla produzione. Muore d'infarto sul set di La casa da tè alla luna d'agosto del 1956. Ben quattro matrimoni e altrettanti divorzi, tutti con attrici; rispettivamente Ilka Chase, Julia Hoyt, Natalie Schafer e Marianne Steward. Non ha avuto figli.