Les pionniers de l’acoustique sous-marine sont l'ingénieur et physicien suisse Jean-Daniel Colladon et le mathématicien  Charles-François Sturm.

C’est sur le Lac Léman, en 1826, qu’ils réalisent des expériences sur la propagation acoustique dans l’eau. Les expérimentateurs se trouvent dans deux bateaux séparés de 13km. A l’un des bateaux, est suspendue une cloche de bronze, frappée par un marteau articulé. Une lance à feu, fixée au manche du marteau, allume une masse de poudre à l’instant du coup sur la cloche. Dans l’autre bateau, l’expérimentateur porte un cornet acoustique dont le pavillon est dirigé vers l’autre bateau. L’expérience se déroule de nuit, de manière à ce que l’observateur muni du cornet acoustique voie la lueur de l’éclair.

Le système de détection sous-marine va connaître un brusque développement après la catastrophe du Titanic en 1912 et plus particulièrement au cours de la première guerre mondiale à des fins militaires. Jusque dans les années 1930 la détection sonore en milieu marin était passive et se bornait à l'écoute d'un son à l'aide d'un hydrophone.

C’est le physicien (et podologue) français Paul Langevin (1872-1946) qui le premier imagina en 1915 une détection active basée sur l'écho d'un son renvoyé par un obstacle, destinée à l'origine pour la détection des icebergs.

Pour concevoir le premier sondeur acoustique, Paul Langevin s'inspira des travaux de Pierre Curie qui, avant de faire ses importantes études et expériences sur les substances radioactives, travailla avec son frère Jacques sur l'étude des propriétés de cristaux et mit en évidence les phénomènes de piézo-électricité.

" Une lamelle taillée de manière particulière dans un quartz, produit sous l’effet d’une contrainte, une charge électrique et réciproquement."

 Langevin utilise l'effet piézo-électrique réversible et avec Constantin Chilowsky, spécialiste russe de la radio, met au point les premiers sondeurs acoustiques qui permirent indirectement la détection des sous-marins allemands pendant la deuxième guerre mondiale. C'est également ce dispositif qui est à la base du développement ultérieur de l’utilisation des ultrasons en médecine.

Les Alliés utilisèrent les travaux de Langevin pour développer une version militaire du sondeur acoustique actif le SONAR (SOund NAvigation And Ranging) qui équipait en 1939 les destroyers et escorteurs de la Royal Navy.

De nos jours, il existe des sonars passifs, capables de localiser des objets immergés seulement lorsque ceux-ci font du bruit et des sonars actifs, dont le fonctionnement est identique à celui des radars. Ils sont utilisés pour détecter des bancs de poissons, pour connaître la profondeur des fonds marins sous la quille des bateaux ou pour faire de la cartographie maritime.