Ὁ Ἅγιος Κοσμᾶς καταγόταν ἀπὸ τὴν Ἀντιόχεια τῆς Συρίας.

Προσονομάστηκε ὅμως Ἱεροσολυμίτης, ἐπειδὴ ἔμεινε ἀρκετὸ καιρὸ στὰ Ἱεροσόλυμα ὡς μοναχός. Ἀπὸ ἐκεῖ ᾖλθε στὴν Κωνσταντινούπολη, ὅπου μόνασε στὴν Μονὴ τῆς Χώρας. Ὁ Ἅγιος διακρινόταν γιὰ τὴν ἄδολη εὐσέβειά του, τὴ βαθιὰ ἀρετή του, τὴν εὐθύτητα τοῦ χαρακτῆρα του καὶ τὴν ἁπλότητα τοῦ ἤθους του.

Ὅταν στὶς 2 Αὐγούστου τοῦ ἔτους 1075 κοιμήθηκε ὁ Πατριάρχης Ἰωάννης Η’, ὁ ἐκ Τραπεζοῦντος, στὸν ὁποῖο εἶχε δοθεῖ τὸ ἐπώνυμο Ξιφιλίνος, ἡ αὐτοκρατορικὴ ὑπόδειξη τοῦ Μιχαὴλ Δοῦκα τὸν ἔφερε στὸν πατριαρχικὸ θρόνο, ἂν καὶ εἶχε φθάσει σὲ βαθιὰ γεράματα.

Ἐπὶ τῆς Πατριαρχίας τοῦ Ἁγίου Κοσμᾶ, ἡ Ἀρχιεπισκοπὴ Πατρὼν ἀνυψώθηκε σὲ Μητρόπολη μὲ τρεῖς Ἐπισκοπές, Μεθώνης, Λακεδαίμονος καὶ Σαρσοκορώνης, ὑπὸ τὴν δικαιοδοσία της. Ὁ ἴδιος χειροτόνησε καὶ ἔστειλε τὸ ἔτος 1080 Μητροπολίτη Ρωσίας τὸν Ἕλληνα Ἰωάννη, ἐκκλησιαστικὸ ἄνδρα μεγάλης παιδείας καὶ πολλῶν ἀρετῶν, ζηλωτὴ καὶ φιλόπτωχο.

Ἡ πατριαρχία ὅμως δὲν ἦταν εὔκολη καὶ δὲν εἶχε θέλγητρα γιὰ τὸν ἁπλοϊκὸ χαρακτῆρα τοῦ Ἁγίου. Οἱ περιπλοκὲς τῆς ὅλης διοικήσεως τὸν στεναχωροῦσαν, τὸν πίκραιναν καὶ τὸν σύγχυζαν, μέχρι ποὺ ὑπέβαλε τὴν παραίτησή του ἐπιθυμώντας τὴν γαλήνη καὶ τὴν ἡσυχία.

Στὶς 8 Μαΐου τοῦ ἔτους 1081, ἀφοῦ λειτουργοῦσε στὸ ναὸ τοῦ Ἁγίου Ἰωάννου τοῦ Θεολόγου, ἔφυγε καὶ ἀποσύρθηκε στὴ Μονὴ Καλλίου. Μάταια τὸν παρακαλοῦσαν νὰ ἐπιστρέψει. Αὐτὸς ἔμεινε ἀμετάπειστος καὶ κοιμήθηκε μὲ εἰρήνη στὴ Μονὴ ἐκείνη.
Ἡ σύναξη αὐτοῦ ἐτελεῖτο στὴ σεβάσμια Μονὴ τῆς Χώρας.