Από το 16ο αιώνα, στη συμβολή των οδών Μητροπόλεως και Πεντέλης, στο κέντρο της Αθήνας, βρίσκεται ο ναΐσκος της Αγίας Δύναμης, περικυκλωμένος από μεγάλα σύγχρονα κτίρια, μεταξύ των οποίων και αυτού που για πολλά χρόνια στέγαζε το Υπουργείο Εθνικής Παιδείας και Θρησκευμάτων. Το μικρό εκκλησάκι της Αγίας Δύναμης χτίστηκε την περίοδο της Τουρκοκρατίας στο Ροδακιό, στο ίδιο σημείο όπου κατά την αρχαιότητα βρίσκονταν οι περίφημες Πύλες Διοχάρους του Θεμιστόκλειου Τείχους.

Κατά την αρχαία ελληνική συνήθεια, κοντά στις Πύλες υπήρχαν λουτρά που αργότερα έγιναν θερμά και στους ίδιους χώρους θα έπρεπε να στήνονται και ιερά σχετικά με τη λειτουργία των αρχαίων γυμνασίων.   Έτσι, αρχικά φτιάχτηκε ιερό του Ηρακλή, πάνω στα ερείπια του οποίου χτίστηκε αιώνες αργότερα ο ναός της Αγίας Δύναμης, αφιερωμένος στις γυναίκες που είναι έτοιμες να γεννήσουν.

Η Αγία Δύναμις αποτελούσε μετόχι της Μονής Πεντέλης και ήταν γνωστή ως «Μεντελίτισσα» (παραφθορά του Πεντελίτισσα), «του Μεντελιώτη» ή «του Ροδακιού»(από το όνομα της συνοικίας). Μάλιστα, εντοπίστηκαν και αρχαία αφιερώματα προς τον ημίθεο Ηρακλή, αφιερωματικό ανάγλυφο με ανάγλυφη ρόπαλο και με την επιγραφή «ΗΡΑΚΛΕΙΔΙ (ΟΜΟΙΩ) ΚΑΙ ΑΝΕΘΗΚΕΝ». Στους υπόγειους χώρους της εκκλησίας είχαν φυλάξει τους θησαυρούς της Μονής Πεντέλης, δυστυχώς όμως, στις 21 Ιουλίου 1821, κατά την τουρκική εισβολή του Ομέρ Βρυώνη, χάθηκαν τα πάντα.  Σύμφωνα με την παράδοση, λίγο πριν από την επανάσταση του 1821, στο μετόχι κατασκευάζονταν πυρομαχικά, φανερά για λογαριασμό των Τούρκων, αλλά τα περισσότερα διοχετεύονταν κρυφά στους Έλληνες. Κατά τη διάρκεια της επανάστασης το εκκλησάκι καταστράφηκε και τότε φαίνεται ότι χάθηκαν ιερά λείψανα και κειμήλια που είχαν φυλαχθεί από τους μοναχούς.

Τα υπόλοιπα κτίρια από το συγκρότημα του μετοχίου κατεδαφίστηκαν πιθανότατα κατά τη διάνοιξη της οδού Μητροπόλεως, στα χρόνια μετά την απελευθέρωση. Ο ναός αναστηλώθηκε το 1912, ενώ στη δεκαετία του 1950, όταν οικοδομήθηκε το κτίριο του υπουργείου, ο χώρος του περιορίστηκε στη σημερινή του μορφή. Το 1963 προστέθηκε επάνω από την είσοδό του το κωδωνοστάσιο. Ο μικρός ναός ανήκει στον τύπο της μονόκλιτης καμαροσκέπαστης βασιλικής. Οι τοίχοι του διακοσμούνται με τοιχογραφίες. Κάτω από το δάπεδο του ιερού υπάρχει μεγάλη υπόγεια σπηλιά βάθους περίπου 15 μέτρων, που συνεχίζει σε στοά.