Η χερσόνησος του Παλαιόκαστρου (ίσως υπήρχε κάποιο κάστρο εκεί αλλά καμία πληροφορία δεν επιβεβαιώνει την ύπαρξη οικοδομήματος) αγκαλιάζει το λιμάνι από τα δυτικά. Τα λιθόστρωτα σκαλοπάτια οδηγούν στα δύο εκκλησάκια, του Αγίου Ιωάννη του Προδρόμου και της Αγίας Άννας. Οι 3 σημαίες (ελληνική, βυζαντινή, ψαριανή) υποτάσσονται στη δύναμη του αέρα. Στη νότια πλευρά του Παλαιόκαστρου και κατ’ επέκταση νοτίως των δυο μικρών εκκλησιών, η Μαύρη Ράχη προσφέρει ρίγος και δέος. Βορειότερα, ο επισκέπτης θα αντικρίσει την παραλία του Κάτω Γιαλού.
Κατά τη διάρκεια της Επανάστασης, οι Ψαριανοί σε αυτό το σημείο μετέφεραν κανόνια, κατασκεύασαν ένα κανονιοστάσιο που το ονόμασαν φρούριο και μια τρύπα στο έδαφος αξιοποιήθηκε ως πυριτιδαποθήκη. Στις 22 Ιουνίου 1824, ύστερα από ηρωική προσπάθεια, οι 120 απτόητοι αγωνιστές προτίμησαν να ανατιναχτούν παρά να καταλήξουν στα χέρια των Τούρκων. Σήμερα στη θέση των αθάνατων υπερασπιστών του νησιού στέκει ένα μνημείο με τη λιτή επιγραφή: «Εις μνήμην των αθανάτων ηρώων του Ολοκαυτώματος της Μαύρης Ράχης», ο απότομος βράχος και κάποια διάσπαρτα ερείπια.