Op 1 januari 1844 werd de gevangenis van Tongeren, de eerste cellulaire gevangenis in België, in gebruik genomen om mannelijke gedetineerden te huisvesten. In het midden van de twintigste eeuw werden hier ook een tijd lang vrouwelijke gedetineerden in ondergebracht. Stilaan maar zeker werd de individuele penitentie-idee achterwege gelaten. De gevangenis herbergde als arresthuis immers soms meer dan drie gedetineerden per cel.
Op 2 april 2005 werd de inrichting gesloten. De 70 gedetineerden werden overgebracht naar de nieuwe gevangenis van Hasselt en datzelfde jaar nog werd in de Tongerse inrichting de film ‘De Hel van Tanger’ opgenomen. In april 2006 nam het Gallo-Romeins museum de exploitatie over.
Gedurende 2 jaar kregen meer dan 200.000 bezoekers de gelegenheid ‘over de muur’ te kijken vooraleer het museum in november 2008 sloot. Toenmalig Minister van Justitie Jo Vandeurzen had immers beslist de infrastructuur opnieuw in gebruik te nemen als federale instelling. De bedoeling was om een oplossing te bieden voor het tekort aan opvangmogelijkheden voor minderjarige delinquenten in het kader van de wet op de jeugdbescherming.
Daarnaast was ook nood aan een apart federaal centrum voor de opsluiting van uit handen gegeven jongeren in het kader van artikel 606 van het WB van Strafvordering. Voor de ingebruikname werden renovatiewerken uitgevoerd. Het Gesloten Federaal Centrum te Tongeren werd op 20 november 2009 operationeel. Sinds 1 januari 2015 zijn de gemeenschappen, en niet langer het DG EPI, bevoegd voor het beheer van de uit handen gegeven jongeren.
Sinds het najaar 2020 huisvest de gevangenis van Tongeren enkel meerderjarige gedetineerden die geen recht hebben op verblijf in België en onder de bevoegdheid vallen van het gevangeniswezen van de FOD Justitie.