Στην περιοχή Κεφαλόκαστρο (γνωστή με τις ονομασίες Κάστρο του Κατακέφαλου, Παλαιόκαστρο, Κάστρο της Ωριάς ή της Ωργιάς) στο βορειοδυτικό άκρο της Κύθνου σε υψόμετρο 250 μ. πάνω από τη θάλασσα πάνω σε έναν απόκρυμνο βράχο με πανοραμική θέα στο πέλαγος, βρίσκονται τα ερείπια της μεσαιωνικής πρωτεύουσας του νησιού.
Υπήρξε πρωτεύουσα της Κύθνου στα βυζαντινά και στα ενετικά χρόνια. Πρόκειται για μία μικρή, καλά οχυρωμένη πόλη με πυκνά διατεταγμένους οικίσκους που καλύπτει μία έκταση 10.700 τμ. περίπου. Η θέση αυτή προσφέρει απρόσκοπτη, περιμετρική σχεδόν θέα στην γειτονική Κέα και τα γύρω νησιά.
Το φυσικό τοπίο στην ευρύτερη περιοχή του Κάστρου είναι άγριο και γυμνό από βλάστηση, παρόλα αυτά ιδιαίτερα εντυπωσιακό.
Η ακριβής χρονολογία ίδρυσης της οχυρής πόλης του Κάστρου δεν είναι γνωστή οι πηγές την τοποθετούν στον 7ο αιώνα μ.Χ. αν και δεν είναι γνωστό στην ίδια θέση αν υπήρχε νωρίτερα κάποιος μικρότερος οικισμός. Σε κάθε περίπτωση, η σημερινή μορφή του Κάστρου είναι αποτέλεσμα των βελτιώσεων και μετατροπών που επέφεραν οι Βενετοί, όταν μετά το 1207 εγκατέστησαν εκεί την έδρα του χωροδεσπότη του νησιού.
Η οριστική εγκατάλειψή της τοποθετείται χρονικά τον 16ο αιώνα μετά την άλωσή της από τους Τούρκους. Έτσι το Κάστρο υπήρξε μία ζωντανή πόλη με συνεχή κατοίκηση για 10 περίπου αιώνες (7ος – 16ος αιώνας). Λέγεται επίσης ότι κατά τη διάρκεια της Επανάστασης του 1821, οι κάτοικοι φοβούμενοι επίθεση από τους Τούρκους, κατέφυγαν στο από χρόνια εγκαταλελειμμένο Κάστρο, αναγείροντας πρόχειρα ορισμένους τοίχους με σκοπό την προστασία.
Σήμερα το Κάστρο βρίσκεται πλήρως εγκαταλελειμμένο, εκτεθειμένο στη φθορά του χρόνου και των φυσικών στοιχείων.
