L'enstrophie est définie comme la variance de la vorticité. Cette quantité joue un rôle important en turbulence bidimensionnelle, laquelle constitue une approximation de phénomènes fondamentaux en physique de l'atmosphère où le rapport des échelles caractéristiques (dimension géographique sur altitude) est de l'ordre de 100, ou pour les plasmas magnétisés.
Le phénomène turbulent en deux dimensions d'espace possède des caractères radicalement différents de la cascade d'énergie turbulente tridimensionnelle. On le caractérise par une double cascade d'énergie et d'enstrophie.
Pour un écoulement incompressible la vorticité (ou tourbillon) est définie comme le rotationnel de la vitesse V ou parfois la moitié de cette valeur. En géométrie plane (x, y)
On note la moyenne statistique de g. On suppose le milieu homogène et stationnaire en moyenne : . La moyenne statistique se ramène donc à une moyenne temporelle.
Dans un milieu turbulent on décompose
On définit alors
La turbulence peut être décrite comme un processus stochastique portant sur v ou ω où on associe un nombre d'onde κ à chaque échelle caractéristique. Le processus est caractérisé par une densité d'énergie E (κ) qui permet d'exprimer l'énergie cinétique turbulente k, la dissipation d'énergie ε et l'enstrophie
La conservation de la vorticité pour un fluide incompressible barotrope est donnée par l'équation de Helmholtz. Dans le problème bidimensionnel on vérifie
d'où l'équation de conservation du tourbillon en bidimensionnel
Le système vérifie
Dans un milieu sans viscosité, l'énergie est conservée, pas l'enstrophie.
Dans la turbulence bidimensionnelle l'absence de possibilité de l'étirement tourbillonnaire, phénomène fondamental de la turbulence tridimensionnelle, change totalement la phénoménologie.
Robert Kraichnan, C. Leith et George Batchelor ont établi par analyse dimensionnelle un mécanisme analogue à la cascade turbulente concernant l'évolution d'un système homogène et stationnaire lorsque l'on injecte de l'énergie au nombre d'onde κF, conduisant à un spectre auto-similaire :
Une autre différence notable avec le problème tridimensionnel est l'absence d'intermittence.