Gallia sõjas lasi Caesar aastal 55 eKr Koblenzi lähedal ehitada silla üle Reini jõe. Koblenzis on välja kaevatud roomlaste asula varemed, mis pärinevad umbes aastast 20 eKr. Aastal 8 eKr rajasid roomlased sinna kindluse Castellum apud Confluentes ('kindlus jõgede kokkuvoolu kohas'). See andis alust 1992 tähistada linna 2000. aastapäev. Koblenz on üks vanimaid saksa linnu (vanim on Köln).
5. sajandi keskel vallutasid frangid roomlaste asula ja Koblenzist sai frangi kuningate residents. 882. aastal hävitasid linna normannid.
1794 vallutasid Koblenzi revolutsioonilise Prantsusmaa väed François Marceau juhtimisel, kes küll ise lahingus langes. Koblenz liideti Prantsusmaaga ja sai 1801 Luneville'i lepinguga Reini-Moseli departemangu keskuseks. 1814 vallutasid linna Vene väed. Viini kongress andis 1815 linna Preisimaale ja 1822. aastast asus Koblenzis Preisimaa Reini liidumaa valitsus. Esimese maailmasõja ajal okupeerisid Koblenzi taas Prantsuse väed ja selleks, et linna nimi (Coblenz) oleks vähem prantsuspärane, hakati seda 1926. aastast kirjutama K-tähega (Koblenz).