Saudara Johan, Erik XIV menumpas pemberontakan yang dipimpinnya pada 1563 dan memenjarakan Johan. Setelah dibebaskan, Johan berhasil merebut kekuasaan dari Erik dan menjadi raja. Ia menyelesaikan Perang Tujuh Tahun Skandinavia pada tahun 1570 tanpa kehilangan banyak wilayah.
Ia menikahi istri pertamanya, Katarina Jagellonica dari Polandia pada tahun 1562 dan memperoleh tiga orang anak: Isabella (1564–1566), Sigismund, kelak juga menjadi raja Polandia pada tahun 1587) (1566–1632) dan Anna (1568–1625).
Dari istri keduanya, Gunilla Bielke, ia memperoleh seorang putra, Johan (1589–1618). Sedangkan dari selirnya, Karin Hansdotter, ia memperoleh empat orang anak.