Avant l’arrivée des Européens, le nord de Manhattan faisait partie du territoire des Lenapes, qui cultivaient, pêchaient et suivaient les rivières au fil des saisons. En 1658, le gouverneur néerlandais Peter Stuyvesant y fonda un village, Nieuw Haarlem, nommé d’après la ville de Haarlem, aux Pays-Bas.
Le nom a survécu à tous les changements de drapeau : néerlandais, anglais, puis américain. Beaucoup de détails de cette période sont peu documentés ; les récits populaires gagnent à être vérifiés auprès des musées et des archives.