Đại Công tước Karl (tên rửa tội Carolus Franciscus Josephus Wenceslaus Balthasar Johannes Antonius Ignatius), là con trai thứ hai của Hoàng đế Leopold I với người vợ thứ 3, Công nương Eleonor Magdalene của Neuburg, chào đời ngày 1 tháng 10 1685. Gia sư của ông là Anton Florian, Vương công Liechtenstein.
Cha của Karl và các cố vấn quan tâm đến việc định hôn cho ông. Họ để mắt tới Elisabeth Christine xứ Braunschweig-Wolfenbüttel, con gái lớn của Louis Rudolph, Công tước xứ Brunswick-Wolfenbüttel. Bà nổi tiếng vì sắc đẹp của mình.[9] Ngày 1 tháng 8 năm 1708, tại Barcelona, Charles kết hôn gián tiếp với bà. Bà sinh cho ông 2 cô con gái sống tới tuổi trưởng thành, Maria Theresa và Maria Anna.
Việc thiếu người thừa kế nam dẫn đến Sắc lệnh thực dụng 1713, tài liệu phủ quyết người thừa kế nam duy nhất (có hiệu lực trên tất cả các lãnh thổ của Harburg trừ Hungary, nơi Karl chỉ thuyết phục được họ chấp thuận sắc lệnh năm 1723).[10] Hoàng đế ủng hộ quyền kế vị của con gái mình đứng trên các con gái của huynh trưởng Joseph I, và liên tục phủ nhận Hiệp định thừa kế Mutual mà ông đã ký dưới thời phụ thân, Leopold I. Trong 20 năm tiếp theo, Karl tranh thủ sự ủng hộ của các liệt cường châu Âu khác.
Trong một thời gian ngắn, có vẻ như, Sắc lệnh thực dụng không phát huy tác dụng khi Elisabeth Christine hạ sinh một hoàng nam năm 1716. Nhưng cậu bé lại chết yểu. Một năm sau, Maria Theresia, người con lớn tuổi nhất còn sống tới khi trưởng thành của ông chào đời. Người đương thời viết rằng trong buổi lễ rửa tội của cô bé, Karl, mặc dù cố gắng lắm vẫn không giấu được nỗi thất vọng về giới tính của đứa bé.[11] Năm sau một hoàng nữ nữa ra đời, Maria Anna.
Karl đã thành công trong Chiến tranh Áo-Thổ Nhĩ Kì 1716–18, sáp nhập Banat vào Hungary, và xác lập quyền cai trị của người Áo lên Serbia và Oltenia (Lesser Wallachia).
Chiến tranh liên minh bốn bên (1718-1720) diễn ra. Nó cũng khép lại bằng chiến thắng của người Áo; với Hiệp ước The Hague (1720), Karl đổi Sardinia, cho Công tước xứ Savoy, Victor Amadeus, để lấy Sicily, đảo lớn nhất tại Địa Trung Hải, nơi khó bảo vệ hơn Sardinia.[12] Hiệp ước cũng công nhận con trai của Felipe V của Tây Ban Nha, Don Carlos (về sau là Charles III của Tây Ban Nha), là người kế tự Công quốc Parma và Đại Công quốc Tuscany; dù Charles trước đó đã xác nhận quyền thừa kế của Đại Công tước đương nhiệm, Anna Maria Luisa, Nữ Tuyển hầu Palatine.[13]
Năm 1722, Karl thành lập Công ty Ostend để tăng cường giao lưu thương mại giữa châu Âu với Đông Ấn, Tây Ấn và Phi châu. Hợp đồng có hiệu lực trong 30 năm. Quốc khố của Áo nhận thêm từ 3 đến 6 phần trăm lợi tức hằng năm. Công ty cạnh tranh lợi ích với người Anh và Hà Lan và trong Hội nghị Vienna (1731), ông giải tán công ty để đổi lấy sự công nhận Sắc lệnh thực dụng của người Anh.[14]
Hòa bình ở châu Âu bị phá vỡ bởi Chiến tranh Kế vị Ba Lan (1733–1738), một cuộc tranh chấp ngai vàng giữa Augustus của Saxony, con trai lớn của vua trước, và Stanisław Leszczyński. Áo hỗ trợ Augustus, Pháp hỗ trợ Stanislaw; sau đó chiến tranh nổ ra. Với Hiệp ước Vienna (1738), Augustus lên ngôi nhưng Karl phải trao Vương quốc Naples cho Don Carlos, đổi lấy vùng đất nhỏ hơn là Công quốc Parma.[15]
Việc chỉ hôn cho Maria Theresia được tiến hành từ khi cô còn nhỏ. Ban đầu bà được hứa gả Léopold Clément xứ Lorraine, người được cho là đã đi đến Vienna và gặp Maria Theresia. Nhưng ông qua đời vì bệnh đậu mùa năm 1723, khiến cho Maria Theresia thất vọng. Em trai Léopold Clément, Francis Stephen, được đưa đến Vienna và thay thế ông. Karl còn để ý đến những người khác (chẳng hạn Don Carlos) trước khi chấp nhận Francis.[16] Vào cuối cuộc chiến kế vị Ba Lan, Pháp buộc Francis dâng Công quốc Lorraine (lãnh thổ thừa kế của ông), cho Stanisław Leszczyński, vua bị lật đổ của Ba Lan, sau khi ông ta chết đất này nhập vào ngôi vua Pháp. Karl yêu cầu Francis bỏ quyền kế vị ở Lorraine và nói với ông: "Từ bỏ, hoặc là không có được Nữ Đại Công tước."[17] Francis chấp thuận; ông thành hôn với Maria Theresia tháng 2, 1736, và Lorraine được chuyển cho Stanisław vào tháng 7, 1737.
Năm 1737, Hoàng đế tiến hành cuộc chiến tranh với người Thổ và liên minh với Nga quốc. Không như cuộc chiến tranh trước, chiến tranh lần này kết thúc với thất bại của Áo. Phần lớn lãnh thổ đã lấy được trong năm 1718 (trừ Banat) đã bị chiếm lại. Sự bất mãn hình thành vì chi phí chiến tranh tốn kém, và người ta coi nhà cai trị Vienna; Francis của Lorraine, chồng Maria Theresia, là một điệp viên của người Pháp tại thành Vienna.[18] Cuộc chiến phơi bày tình trạng tồi tệ của quân đội Áo, không đủ sức mạnh tài chính để duy trì cuộc chiến lâu dài mà không có sự hỗ trợ.
Khi Karl qua đời, các lãnh thổ của nhà Habsburg ngập tràn trong nợ nần; quốc khố còn 100,000 florins; tình trạng đào ngũ lan tràn trong quân đội, lan đến doanh trại của Hoàng đế.[19] Người đương thời mong rằng Áo-Hungary sẽ giải phóng khỏi ách nhà Habsburg sau khi ông chết.[19]
Hoàng đế đã bị ốm, sau một chuyến đi săn qua biên giới Hung trong một "ngày ẩm và lạnh điển hình của tháng 10",[20] tại Favorita Palace, Vienna, vào ông chết ngày 20 tháng 10 năm 1740 ở Hofburg.[21] Trong quyển Memoirs của mình, Voltaire viết[22] rằng nguyên nhân gây ra cái chết Charles là do ăn phải nấm độc.[23] Karl chết, và Sắc lệnh thực dụng bị bác bỏ. Maria Theresia buộc phải dùng đến vũ lực để bảo vệ quyền thừa kế các lãnh thổ của bà trước sự đe dọa của Phổ, Bavaria, Pháp, Tây Ban Nha, Saxony và Ba Lan-khi liên quân các nước tiến sát biên giới Áo quốc sau cái chết của cha bà. Trong Chiến tranh Kế vị Áo, Maria Theresia bảo vệ được ngai vàng và phần lớn lãnh thổ nhưng bị mất vùng đất giàu có Công quốc Silesia cho người Phổ và Công quốc Parma cho người Tây Ban Nha.[24]
Chức danh đầy đủ của Karl trên cương vị hoàng đế và người cai trị các vùng đất của nhà Habsburg cũng như người đòi ngôi vua Tây Ban Nha là: Karl, Nhờ ân điển của Chúa, Hoàng đế La Mã Thần thánh, vĩnh viễn đáng kính, Vua ở Đức, Castile, Aragon, Leon, kể cả Sicilies, Jerusalem, Hungary, Bohemia, Dalmatia, Croatia, Slavonia, Rama, Serbia, Galitia, Lodomeria, Cumania, Navarra, Grenada, Toledo, Valencia, Galicia, Mallorca, Sevilla, Sardinia, Cordova, Corsica, Murcia, Jaen, Algarve, Algeciras, Gibraltar, quần đảo Canary, những hòn đảo của Ấn Độ và đại lục của biển, Đại vương công Áo, Công tước xứ Burgundy, Brabant, Milan, Styria, Carinthia, Carniola, Limburg, Luxemburg, Gelderland, Württemberg, Upper và Hạ Silesia, Calabria, Athens và Neopatria, Vương công Swabia, Catalonia, Asturia, bá tước của Thánh chế La Mã, của Burgau, Moravia, Thượng và Hạ Lusatia, Hoàng thân Bá tước Habsburg, Flanders, Tyrol, ferrette, Kyburg, Gorizia, Artois, Lãnh chúa Alsace, bá tước Oristano, Bá tước của Goceano, Namur, Roussillon, Cerdagne, Lãnh chúa của Wendish March, Pordenone, Biscay, Molina, Salins, Tripoli và Mechelen, vv