Nous avons parlé du critère de Rayleigh concernant la résolution maximale d’un instrument et sa limitation par la diffraction due au diaphragme d’entrée. Si l’on exprime ce critère sur le front d’onde, cela revient à dire que l’on peut discriminer un écart sur le front jusqu’à ¼ de la longueur d’onde.
Le critère de Rayleigh énonce donc qu’un instrument est limité par la diffraction et qu’il suffit d’une précision de L/4 PTV (un quart de l’onde) de l’optique pour atteindre le maximum de la résolution de l’instrument. Néanmoins ce critère ne prend pas en compte les pertes d’énergie liées à des défauts ponctuellement très importants (forte pente) et qui, même en restant inférieurs à L/4, suffisent à envoyer une partie de la lumière en dehors de la figure d’Airy. De plus, la turbulence va venir distordre le front d’onde incident. Une optique qui est seulement à L/4 verra donc son efficacité visiblement dégradée quand on lui ajoute la turbulence, alors qu’une optique meilleure pourra rester plus facilement sous ce critère.
En pratique donc ce critère souvent revendiqué par les constructeurs par l’expression « diffraction limited » est insuffisant.