Είναι το μεγαλύτερο σπήλαιο των Κυκλάδων, με τη φύση να έχει δημιουργήσει μια σύνθεση από σταλακτίτες, σταλαγμίτες και την σπάνια σταλαγμιτική ύλη, σπηλαιόγαλα. Σύμφωνα με τη λαϊκή παράδοση, ένας βοσκός βρήκε στο σπήλαιο την εικόνα του Αγίου με αποτέλεσμα να δώσουν το όνομά του στο σπήλαιο. Στις 28 Αυγούστου μάλιστα πραγματοποιείται πανηγύρι προς τιμή του, με τη τέλεση εσπερινού, εντός του σπηλαίου. Μια γιορτή που δέχεται επισκέπτες και από τα γύρω νησιά. Ένα μονοπάτι από την Παναγία θα σας οδηγήσει στο σπήλαιο με το θέαμα εντός, αλλά και τη θέα στη θάλασσα  να σας αποζημιώνει για την πεζοπορία. Ο μύθος συνδέει επίσης τη συγκεκριμένη σπηλιά με τον Κύκλωπα Πολύφημο, ο οποίος κατοικούσε σε αυτή και σύμφωνα με τον μύθο τυφλώθηκε από τον Οδυσσέα. Κατά τη φυγή του Οδυσσέα ο  Κύκλωπας του πέταξε βράχους και έτσι, σύμφωνα πάντα με το μύθο δημιουργήθηκαν οι βραχονησίδες Αβελονήσια.