Ὁ Ἰωάννης Καραβίτης γεννήθηκε τὸ 1883 στὴν Ἀνώπολη τῶν Σφακίων Κρήτης καὶ ἦταν τὸ πρῶτο ἀπὸ τὰ πέντε παιδιὰ τοῦ Νικολάου Καραβίτη καὶ τῆς Μαρίας Δασκαλάκη.
Πῆρε μέρος στὸν Μακεδονικὸ Ἀγῶνα, ἀρχικὰ ὡς ὁπλίτης στὸ ἑλληνικὸ ἀντάρτικο Σῶμα τοῦ Παύλου Μελᾶ κι ἀργότερα ὡς ἀρχηγὸς ἀντάρτικου Σώματος καὶ συμμετεῖχε σὲ πολλὲς μάχες. Ἀξιόλογη συμμετοχὴ εἶχαν καὶ οἱ τέσσερις ἀπὸ τοὺς ἀδελφούς του, Ἐμμανουὴλ (Μανοῦσος) (βλέπε: Καραβίτης Ἐμμανουήλ), Γεώργιος (βλέπε: Καραβίτης Γεώργιος) καὶ Ἰωσὴφ (Σήφης) (βλέπε: Καραβίτης Ἰωσήφ), οἱ ὁποῖοι πέθαναν ἀπὸ κακουχίες.