Die genaue Bauzeit dieses Bauwerks war lange umstritten. Erst 2013 konnte der Karlsgraben durch eine Ausgrabung und die dendrochronologische Untersuchung der Bauhölzer in das Jahr 793 datiert werden. Bislang war ungeklärt, ob der Karlsgraben jemals fertiggestellt wurde oder ob das Kanalbauprojekt unvollendet blieb. Es fehlte nicht nur der Nachweis für die mögliche Schiffbarkeit des Kanals, sondern auch der Nachweis für den Anschluss des Kanals an den Bach Rezat. Bis vor wenigen Jahren war insbesondere der nördlichste Teil des Bauwerkes der Forschung noch völlig unbekannt.

Nach den aktuellen Forschungsergebnissen ist der Kanal bis unmittelbar an den Bachlauf der Rezat ausgeschachtet und teilweise auch dort mit aufwändigen Holzeinbauten stabilisiert worden. Ein internationales Grabungsteam unter Leitung von Dr. Lukas Werther von der Friedrich-Schiller-Universität Jena dokumentierte bei der Grabung zahlreiche Bauhölzer, darunter mächtige Eichenbohlen und Flechtwerkmatten zur Stabilisierung der Kanalböschungen. Die Archäologen sicherten auch Abfälle von der Bearbeitung der Hölzer vor Ort. Dank des hohen Grundwasserstandes und der Überdeckung mit Sedimenten unmittelbar nach dem Bau sind die mittelalterlichen Holzkonstruktionen konserviert und in außergewöhnlich gutem Zustand erhalten geblieben.

Mithilfe von zwei Grabungsschnitten, sogenannten Sondagen, die quer durch zwei der nördlichen Kanalabschnitte laufen, erhielt das Forschungsteam nahe der Rezat Einblicke in die frühmittelalterliche Wasserbautechnik. Während in einem Grabungsschnitt eine fünf Meter breite und teilweise aufwendig mit Holz befestigte Fahrrinne zu Tage trat, wies die Rinne im zweiten Grabungsschnitt unmittelbar an der Rezat nur etwa die halbe Breite auf. Dieser Abschnitt war zudem lediglich rudimentär befestigt. Möglicherweise markiert dieser Konstruktionswechsel das Nordende der im frühen Mittelalter fertig ausgebauten Fahrrinne. Diese archäologischen Befunde, geoarchäologischen und geomagnetischen Forschungen sind wichtig für die vieldiskutierte Frage, ob es jemals einen schiffbaren Anschluss des Karlsgrabens an die Rezat und damit an Main und Rhein gab.

Der Ausgrabung gingen zahlreiche geoarchäologische Bohrungen und Sedimentanalysen des Lehrstuhls für Physische Geographie der Universität Leipzig sowie eine über 125 Hektar umfassende geomagnetische Prospektion durch das Leibniz-Institut für Photonische Technologien in Jena voraus. Diese Untersuchungen bildeten die Voraussetzung für die exakte Wahl der Grabungen. Dazu wurde im Jahr 2015 anhand der geomagnetischen SQUID-Prospektionsdaten ein Modell des zu erwartenden Grabenquerschnitts entwickelt, das sich nun durch die Ausgrabungen in vollem Umfang bestätigt hat.

Die Forschungen sind Teil des Schwerpunktprogramms "Häfen von der römischen Kaiserzeit bis zum Mittelalter" der Deutschen Forschungsgemeinschaft. Der Karlsgraben wird im Rahmen dieses Forschungsprojekts seit 2012 von einer Forschergruppe der Universitäten Jena, Leipzig und Kiel, des Leibniz-Institutes für Photonische Technologien Jena sowie des Bayerischen Landesamtes für Denkmalpflege intensiv untersucht. Das insgesamt sechsjährige Projekt läuft noch bis Ende 2018.