A partir du troisième ordre un phénomène nouveau apparaît : les pôles de la fonction de transfert en boucle fermée peuvent passer dans le demi plan complexe des parties réelles positives.

Un système dont la fonction de transfert possède des pôles à partie réelle positive est essentiellement instable : il réagit à la moindre perturbation en générant des oscillations croissantes (ci-contre).

3.4.a Des pôles à partie réelle positive

Prenons, à titre d'exemple, la fonction de transfert définie par :

Un logiciel d'étude des systèmes linéaires (ici scilab) permet de tracer rapidement le lieu des pôles associés à une fonction de transfert dans une boucle à retour unitaire. Avec l'exemple du troisième ordre précédent on obtient :

Le même logiciel permet de déterminer le gain en boucle ouverte qui conduit à la limite de stabilité, c'est à dire à deux pôles en boucle fermée imaginaires purs : T_0lim = 10, qui correspond à des pôles situés à ±j332, sur l'axe des imaginaires.

3.4.b Un cas simplement calculable

Un cas particulier de système du troisième ordre est calculable, sous forme analytique, à la main ; celui où la fonction de transfert en boucle ouverte est un cube :

Le calcul en boucle fermée conduit immédiatement à :

Les racines du dénominateurs se calculent immédiatement :

Le lieu des pôles est un ensemble de trois demi-droites (les asymptotes du diagramme précédent).