众所周知，用桨橹推进的船舶，可以不需要船尾舵，但这样的船舶只能在浅水河流中划行，而且相当费力和缓慢。而帆船却非有船尾舵不可，人们只有依靠它才能够轻便灵活地掌握行船特定的航向，劈波斩浪去远行。因此，常言道：大海航行靠舵手。可见舵是相当重要的。
中国人发明船尾舵，时间大概在两汉之交，即公元1世纪。秦汉时期，中国的船舶技术已经相当发达，橹、舵和布帆等一系列的发明和应用标志了它的初步成熟，这些进步在东汉刘熙的《释名》一书中有明确的记载。世界上最古老的舵的式样，是1955年从广州近郊东汉古墓中出土的陶船模型上发现的。该模型船尾有舵，比近代的舵稍长一些，装置情况也有所不同，是一种早期的形式，还保持着从长桨发展变化而来的迹象。而迟至约公元1180年，在欧洲的教堂的雕刻中才出现了舵的图案。
随着船舶技术的不断发展和完善，船尾舵也日渐进步，其式样和种类越来越多。大约在公元2世纪～4世纪，中国开始，出现了真正的舵——垂直舵，这对于提高船舶操纵性能具有重大意义。大约在12世纪，中国的垂直舵经过印度洋传入欧洲。另外，平衡舵和开孔舵（亦称窗孔舵），也是中国人发明的，时间大约是11至12世纪，它们都可以降低转舵力矩，使用起来更加省力和灵活。欧洲人直到18世纪末、19世纪初才应用平衡舵。1843年英国制造的“大英帝国”号轮船，就是欧洲最早使用这种舵的船。直到1901年开孔舵才传入西方，用在当时以煤为燃料、航速可达每小时30海里的鱼雷快艇上。
中国远洋航行用的舵有好几个人那么大。有了这样的舵的大船，中国的航海事业在相当长一段历史时间里一直处于遥遥领先的地位。中国人和欧洲人曾以不同的方向绕道非洲的好望角，但中国人去那里的时间远早于欧洲人。第一个发现澳大利亚的也是中国人，当时登陆的地方就是现在的达尔文港。宋、元以来中国的商船就已经活跃在南海和印度洋沿岸。所有这些丰功伟绩的产生都与先进的船尾舵技术分不开。
欧洲人在采用中国的舵以前，不得不用桨来划船。这样，远洋航行对他们来说简直是不可思议的。所以，可以毫不夸张地说，哥伦布（1451～1506）于1492年～1502年从欧洲航海到达美洲、达·伽马（1469～1524）于1498年从欧洲航海经好望角到达印度等著名的远航，都是在采用了中国的航海技术之后才实现的。近代英国海军在全世界的优势，在很大程度上也是因为他们比其他欧洲国家更早地采用了中国的舵的发明技术。
