Μέχρι το 1969 το εκκλησάκι του Αγίου Ελευθερίου στεγαζόταν στην είσοδο των φυλακών Δράμας όπου την παραμονή της εορτής του Αγίου οι φυλακές άνοιγαν τις πύλες τους για να τελεστεί ο Εσπερινός.
Ο Άγιος Ελευθέριος εκτός από προστάτης των επίτοκων γυναικών θεωρείται και προστάτης των φυλακισμένων. Το 1969 οι φυλακές της Δράμας μεταφέρθηκαν στην Κομοτηνή και η εικόνα του αγίου μεταφέρθηκε στον Ιερό Ναό του Αγίου Νικολάου. Ωστόσο παλαιότερα το εκκλησάκι του αγίου που σήμερα στεγάζεται στον Άγιο Νικόλαο, εκείνη την εποχή βρίσκονταν στην αριστερή είσοδο των τότε φυλακών της πόλης. Με την απελευθέρωση της πόλης της Δράμας από τους Τούρκους η πόλη ελευθερώθηκε μεν από τους Τούρκους, ωστόσο της «δόθηκε» ως κληρονομιά ένα πλήθος κτιρίων διοίκησης από αυτούς. Το σημαντικότερο κτίριο των Τούρκων, ήταν το Διοικητήριο τους, το οποίο και βρισκόταν στον χώρο όπου σήμερα βρίσκεται το Δικαστικό Μέγαρο της πόλης μας.
Στο κτιριακό αυτό συγκρότημα, έπειτα από την απελευθέρωση στεγάστηκε η Νομαρχία, η Διοίκηση της Χωροφυλακής, το Αστυνομικό τμήμα, και το Πρωτοδικείο με την Εισαγγελία. Στο βόρειο τμήμα αυτού του συγκροτήματος βρίσκονταν τότε οι φυλακές της πόλης.
Οι φυλακές εκείνες δεν ήταν μεγάλες, ωστόσο περιστοιχιζόταν από έναν ψηλό τοίχο και είχαν μια μεγάλη σιδερένια πόρτα. Αυτή η πόρτα άνοιγε την παραμονή της γιορτής του Αγίου Ελευθερίου και έμπαινε ο Δεσπότης μαζί με όλους τους ιερείς του Αγίου Νικολάου για να τελέσουν τον εσπερινό. Την ίδια μέρα όλες σχεδόν οι νοικοκυρές και οι γυναίκες της γειτονιάς ετοίμαζαν σπιτικά γλυκά και εδέσματα και τα πρόσφεραν στους φυλακισμένους. Όλα αυτά συνέβαιναν την ημέρα της παραμονής της εορτής του Αγίου Ελευθερίου ως και το 1969, που το εκκλησάκι μεταφέρθηκε και το 1970 το κτιριακό συγκρότημα γκρεμίστηκε για να χτιστεί το Δικαστικό Μέγαρο Δράμας.