Narodil se 22. ledna 1901 v Karlsruhe. V letech 1916–1919 studoval ve svém rodném městě hru na klavír, dirigování a hudební teorii u Alfreda Lorenze. V roce 1920 se stal korepetitorem a dirigentem Badischen Landestheater. V letech 1921–1926 studoval ve Vídni u Arnolda Schoenberga a v letech 1925–35 u Albana Berga, zakladatelů a prominentních členů Druhé vídeňské školy. V té době se živil soukromou výukou klavíru, kompozice a hudební teorie.
Řada jeho skladeb ukazuje na úzké sepětí výtvarného a hudebního umění. Přátelil se s výtvarníky (Emil Nolde, Oskar KokoschkaAlfred Kubin) a komponoval skladby inspirované jejich obrazy. Během obsazení Rakouska německými vojsky byly jeho skladby označeny jako degenerované umění, ale zůstal ve Vídni až do své smrti v roce 1972.
Apostel proslul jako aktivní umělec, skladatel i dirigent soudobé hudby v Rakousku, Německu i ve Švýcarsku. V letech 1947–1950 byl prezidentem rakouské větve Společnosti pro Novou hudbu (Gesellschaft für Neue Musik). Působil také jako editor hudebního vydavatelství Universal Edition a zasloužil se zejména o nová vydání oper Albana Berga Vojcek a Lulu.