İkinci Joseph, 1741 yılında Viyana'da doğdu. Macar asıllı bir mürebbi tarafından yetiştirildi. Bunların yaptığı aşırı dini telkinlere tepki olarak dine karşı cephe aldı. Çeşitli diller öğrendi. Profesör Martini'den tabii hukuk dersleri aldı ve Fransız filozofların düşüncelerini benimsedi. Babasının ölümünden sonra imparator olunca, ülkede her şeyi kökünden düzeltmek için mücadele etti. Birçok dış seyahatte bulundu. Ülkesinde önemli reform hareketleri yapmaya başladı. Papanın yetkilerini kısıtladı. Mahalli devletler temsilcilerinin yerine, yüksek öğrenim görmüş memurlar tayin etti.
Eyaletlerde aynı tip idare bölümleri kurdurdu. Milli bir ordu kurulmasını sağlamak amacı ile askeri reform kanunları çıkarttı. Bu sırada Rus Çariçesi İkinci Katarina, İkinci Joseph'i Osmanlılara karşı kışkırtıyordu. Eyaletlerdeki ayaklanmalardan korkan İkinci Joseph, yaptığı reformlardan vazgeçti. Türk seferlerinden bitkin dönen Joseph, 20 Şubat 1790'da öldü.