Urodził się i wykształcił w Paryżu, gdzie zbudował obserwatorium astronomiczne na płaskim dachu swego domu. Założył obserwatorium na Mont Blanc w Alpach, a w 1876 w Meudon pod Paryżem. Wziął udział w wielu ekspedycjach naukowych do różnych części świata, m.in. do Peru i Japonii.
Podczas wojny francusko-pruskiej wyruszył do Algierii, by obserwować zaćmienie Słońca. Po skonstruowaniu specjalnego spektroskopu dowiódł, że ciemne pasma na widmie słonecznym można rozłożyć na linie (nazywał je tellurycznymi) i wykazywał, że zjawisko to jest pochodzenia ziemskiego. Doszedł do wniosku, że w atmosferze Marsa występuje para wodna. W 1876 odkrył w fotosferzeSłońcagranule. „Atlas de photographies solaires” (1904) zawiera fotografie Słońca wykonane przez Janssena od 1876.