Ο όσιος Κλήμης καταγόταν από ευσεβή οικογένεια των Αθηνών και από μικρός έδειξε τις ευσεβείς διαθέσεις του. Φθάνοντας σε ηλικία τριάντα ετών, απαρνήθηκε τις ματαιότητες του κόσμου και εισήλθε στην Μονή Μυουπόλεως, την οποία είχε ιδρύσει ο όσιος Μελέτιος [1 Σεπτ.] στον Κιθαιρώνα της Βοιωτίας.
Επί τρία χρόνια υπήρξε πρότυπο μοναχού στην υπακοή και στην ταπείνωση. Αγαπούσε ωστόσο να αποσύρεται για προσευχή στο Σαγμάτιο όρος που βρισκόταν εκεί κοντά. Η προσευχή του ήταν τόσο θερμή, ώστε ένας μοναχός τον είδε μια ημέρα σε έκσταση ενώ το σώμα του αγίου είχε υψωθεί έναν πήχυ πάνω από το έδαφος.
Επιθυμώντας να αποφύγει τον θαυμασμό των ανθρώπων, ο Κλήμης έλαβε την ευλογία του αγίου Μελετίου να εγκαταβιώσει σε σπήλαιο βαλμένο σαν στύλος σε ένα ακρωτήρι του Σαγμάτιου. Εκεί πέρασε χρόνους πολλούς σε πλήρη απομόνωση από τον κόσμο, όμως η φήμη των αρετών και των χαρισμάτων που είχε λάβει παρά του Θεού προσείλκυσε κοντά του όλο και περισσότερους μαθητές, οι οποίοι εγκαταστάθηκαν είτε σε σπήλαια τριγύρω είτε στο μονύδριο που βρισκόταν λίγο πιο πέρα, ώστε να ωφελούνται από την διδαχή του.
