Karl Maldenen aita Petar Sekulović serbiar siderugia langilea eta esne-saltzailea, eta ama berriz Minnie Sebera txekiar jostun eta aktorea izan ziren, Karl hiru semeetatik zaherrena izan zelarik. Chicagon jaio zen baina bost urte besterik ez zituela IndianakoGary herrira bizitzera joan ziren. Eskolan mutil ospetsua zen, institutoko saskibaloi taldeko izarra baitzen. Saskibaloi partida horietako batean bi aldizr sudurra puskatu eta harrezkero bere ibilbide osoan ezaugarri nagusietako bat izango zuen sudur desitxuratuarekin bizi izan da.
Eskola mailako zenbait antzezlanetan parte hartzen hasi zen. Graduazioaren ostean, eta bere aitaren urratsak jarraituz siderurgiaren alorrean lanean aritu zen lanean, baina bere lanarekin ez oso gustura egon ez, eta arte dramatikoa ikastera unibertsitatera joatea erabaki zuen. Han gerora bere emaztea izango zen Mona Greenberg ezagutu zuen. 1938an bikotea ezkondu eta bi alaba izan zituzten: Mila eta Carla.
1960ko hamarkadako urteak artistaren ibilbidean arrakastatsuak izaten jarraitu zuten, nahiz eta aurreko hamarkadan baino garrantzia gutxiagoko filmetan parte hartu. Fear Strikes Out (1957), Pollyanna (1960), Birdman of Alcatraz (1962), How the West Was Won (1962) edo The Cincinnati Kid (1965) filmak antzeztu zituen.