Ramer nécessitant une grande débauche d'énergie pour un résultat finalement peu convaincant, les hommes se dépêchèrent d'inventer les voiles pour se propulser à la force du vent. La navigation à voile permettait de se déplacer plus vite et plus facilement que par voie terrestre, et fut donc très rapidement mise à contribution pour le commerce, le transport, la pêche et la guerre. La plus ancienne représentation de navire, datant d'entre 5500 et 5000 av. J.-C., fut découverte sur un disque peint au Koweït. Vers 3200 av. J.-C., des peintures funéraires représentaient des embarcations de roseaux navigant à la voile sur le Nil. Quelques siècles plus tard, les Égyptiens s'aventuraient sur les côtes méditerranéennes. De la Chine à la Scandinavie, toutes les cultures côtières développèrent leurs propres techniques de navigation.
Barques, bricks, caravelles, clippers, cat-boats, felouques, galions, jonques, drakkars, brigantins, chebeks, schooners et sloops : la technique et la conception des embarcations à voile étaient aussi diverses que les peuples qui les utilisaient. Vers 2500 av. J.-C., les Égyptiens construisaient des embarcations à l'aide de planches de cèdre, assemblées avec des lanières et jointoyées à l'aide de roseaux. La barque solaire de Khéops, découverte intacte en 1954 au pied des pyramides de Gizeh, mesurait 43,5 mètres de long et était équipée de rames et de voiles en coton. À la même époque, les Scandinaves avaient développé une méthode de construction navale fondée sur la segmentation des coques en compartiments, ce qui leur permettait de construire des langskips encore plus grands. Vers l'an mille, les Vikings, sans conteste les meilleurs marins et constructeurs navals au monde, traversèrent même l'Atlantique pour aller jusqu'en Amérique du Nord.
Par tâtonnement, et au prix de beaucoup de noyades, les voiles, la mâture, les coques et les manœuvres furent améliorées. Les marchands arabes, chinois et indiens s'aventurèrent jusqu'au Pacifique, ouvrant ainsi des routes maritimes et créant des liens diplomatiques. Cependant, ce furent les Européens qui sillonnèrent les mers : à partir du XVe siècle, les navigateurs européens allèrent toujours plus loin, partirent toujours plus longtemps et explorèrent ainsi la planète, fondant des empires coloniaux à l'aide de leur flotte.