Un campo vectorial elige un vector tangente en cada punto. Del mismo modo, podemos elegir un plano que pase por cada punto: en cada punto p de \mathbb{R}^3, un subespacio D_p de dimensión dos del espacio tangente T_p\mathbb{R}^3. Esta elección se llama un campo de planos, o una distribución de rango 2 [1].
Decimos que D es suave cuando, cerca de cada punto, está generado por dos campos vectoriales suaves V_1 y V_2: en cada punto q sus valores son linealmente independientes y generan D_q. La misma definición da distribuciones de cualquier rango k en variedades de cualquier dimensión, pero los planos de \mathbb{R}^3 ya muestran todo lo que importa aquí.
En la figura, D está generado por V_1 = \partial_x + \frac{z\varphi_x}{\varphi}\partial_z y V_2 = \partial_y + \frac{z\varphi_y}{\varphi}\partial_z, donde \varphi(x, y) = 1 + 0.4\sin(1.5x)\cos(1.5y). Cada cuadrado pequeño está en el plano de su centro, y al moverse el punto p, su cuadrado se inclina de forma suave.
Una superficie integral de D es una superficie N cuyo plano tangente en cada punto q de N es D_q. Decimos que D es integrable cuando cada punto está en alguna superficie integral.
Para el campo de la figura anterior, las superficies z = c\varphi(x, y) son superficies integrales. El plano tangente de z = c\varphi está generado por \partial_x + c\varphi_x\partial_z y \partial_y + c\varphi_y\partial_z, y en esta superficie c = z/\varphi, así que estos dos vectores son V_1 y V_2. El punto (x, y, z) está en la superficie con c = z/\varphi(x, y), de modo que estas superficies llenan todo el espacio.
En la figura el punto p sube y baja, y la superficie que pasa por p cambia con él. Para c = 0 es el plano z = 0, y para c < 0 es la imagen especular de la superficie para -c. En cada punto de la superficie, el cuadrado pequeño de D está contenido en la superficie.
Si en cada punto elegimos una recta en lugar de un plano, la pregunta tiene una respuesta rápida. Cerca de cada punto, un campo de rectas está generado por un campo vectorial X que no se anula, y las curvas integrales de X son tangentes a las rectas. Estas curvas siempre existen, por el teorema de existencia para ecuaciones diferenciales ordinarias [1].
El campo vectorial no es único. Para cualquier función positiva f, el campo fX genera las mismas rectas, y sus curvas integrales recorren los mismos caminos con otras velocidades. En la figura dos puntos se mueven por una misma curva, y cada flecha de velocidad está sobre la recta elegida en su punto. El campo de rectas determina las curvas, pero no la velocidad con que se recorren.
Para los planos el mismo argumento no funciona. Seguir un campo vectorial de D solo da una curva, y nada garantiza que las curvas de dos campos encajen en una superficie. La figura siguiente muestra un campo de planos sin ninguna superficie integral.
Sea D el campo generado por X = \partial_x - \frac{y}{2}\partial_z y Y = \partial_y + \frac{x}{2}\partial_z. Sobre el eje z el plano es horizontal. En un punto a distancia r del eje z, el plano contiene la dirección horizontal que se aleja del eje, ya que xX + yY = x\partial_x + y\partial_y. También contiene -yX + xY = -y\partial_x + x\partial_y + \frac{r^2}{2}\partial_z, así que está inclinado alrededor de esa dirección un ángulo cuya tangente es \frac{r}{2}.
Cada semirrecta horizontal que sale del origen es tangente a D. Sobre la semirrecta de dirección (\cos\alpha, \sin\alpha, 0), el campo vectorial (\cos\alpha)X + (\sin\alpha)Y no tiene parte en \partial_z, así que la semirrecta es una de sus curvas integrales. Una curva integral de un campo vectorial de D que empieza en una superficie integral se queda en ella, de modo que una superficie integral que pasara por el origen contendría todas estas semirrectas cerca del origen, es decir, un disco del plano z = 0.
Pero sobre ese disco el plano de D es horizontal solo en el centro. Lejos del centro los cuadrados se inclinan cada vez más, así que el disco no es tangente a D y ninguna superficie integral pasa por el origen. El corchete de Lie muestra que lo mismo ocurre en todos los puntos.
Supongamos que N es una superficie integral y que X e Y son campos vectoriales con valores en D. Sobre N son tangentes a N, y el corchete de Lie de dos campos vectoriales tangentes a una superficie vuelve a ser tangente a ella. Por tanto [X, Y] está en D en cada punto de N.
Para el campo que se tuerce, [X, Y] = (X(\frac{x}{2}) - Y(-\frac{y}{2}))\partial_z = \partial_z. La componente z de Y crece a razón de \frac{1}{2} en la dirección x, la componente z de X decrece a razón de \frac{1}{2} en la dirección y, y el corchete suma las dos razones.
Pero \partial_z nunca está en D. Un vector aX + bY de D tiene parte horizontal a\partial_x + b\partial_y, que es 0 solo cuando a = b = 0. Así que ningún punto está en una superficie integral del campo que se tuerce.
Una curva (x(t), y(t), z(t)) es tangente a D exactamente cuando su velocidad es \dot x X + \dot y Y, es decir, cuando \dot z = \frac{1}{2}(x\dot y - y\dot x). El lado derecho es la velocidad areolar del punto (x(t), y(t)) alrededor del origen, la rapidez con que el segmento del origen al punto barre área en el plano xy.
Así, una curva tangente a D puede seguir cualquier camino del plano xy, y su altura cambia en el área barrida. Al dar una vuelta a un lazo en sentido antihorario, vuelve a quedar encima de su punto de partida, más arriba en el área que encierra el lazo. En la figura el lazo es una circunferencia de radio 1 que pasa por el origen, y z crece hasta \pi.
Esto da otra prueba de que no hay superficie integral. Cerca de un punto, una superficie integral sería la gráfica de una función sobre el plano xy, porque D nunca contiene \partial_z. Una curva tangente a D que empieza en la gráfica se queda en ella, porque su altura queda determinada por su camino en el plano xy, así que al dar una vuelta a un lazo pequeño volvería a su punto de partida en vez de subir.
Decimos que D es involutivo cuando el corchete de dos campos vectoriales cualesquiera con valores en D vuelve a tener valores en D. Si V_1 y V_2 generan D, basta comprobar que [V_1, V_2] está en D, porque para funciones f y g se tiene [fV_1, gV_2] = fg[V_1, V_2] + f(V_1 g)V_2 - g(V_2 f)V_1, y todo corchete de campos de D se desarrolla en términos de este tipo. Las escenas anteriores muestran que un D integrable es involutivo.
El teorema de Frobenius dice que el recíproco es cierto: todo campo de planos involutivo es integrable [1]. Más precisamente, cerca de cada punto hay coordenadas (u, v, w) en las que D está generado por \partial_u y \partial_v, y cada superficie w = c es una superficie integral. Estas superficies no se cortan entre sí, y juntas llenan un entorno del punto.
Por ejemplo, fuera del eje z, sea D el campo generado por la dirección horizontal que se aleja del eje y la dirección vertical. Los campos \frac{1}{r}(x\partial_x + y\partial_y) y \partial_z que lo generan tienen corchete 0, así que D es involutivo. Sus superficies integrales son los semiplanos cuyo borde es el eje z, y en las coordenadas cilíndricas (r, \theta, z) se convierten en los planos \theta = c, como en la figura.
El teorema también decide cuándo las ecuaciones u_x = F(x, y, u) y u_y = G(x, y, u) tienen solución para cada valor inicial. Las gráficas de las soluciones son las superficies integrales del campo de planos generado por \partial_x + F\partial_u y \partial_y + G\partial_u, y la involutividad se convierte en la condición F_y + GF_u = G_x + FG_u.
Ahora probamos el teorema para un campo de planos involutivo D en \mathbb{R}^3. Cerca de un punto p, tras un cambio lineal de coordenadas, podemos suponer que D_p no contiene \partial_z. Entonces, cerca de p, la proyección (x, y, z) \mapsto (x, y) lleva cada plano D_q de manera isomorfa sobre el plano xy.
Por tanto hay exactamente un campo vectorial V_1 con valores en D cuya proyección es \partial_x, y exactamente uno V_2 cuya proyección es \partial_y. Tienen la forma V_1 = \partial_x + a\partial_z y V_2 = \partial_y + b\partial_z, y juntos generan D. En la figura, los planos que están encima de un punto del plano xy se inclinan de formas distintas, pero todos se proyectan sobre el mismo cuadrado generado por \partial_x y \partial_y.
Su corchete es [V_1, V_2] = (V_1 b - V_2 a)\partial_z, así que su proyección es 0. Como D es involutivo, [V_1, V_2] está en D, y el único vector de D_q cuya proyección es 0 es el vector cero. Por tanto [V_1, V_2] = 0.
Llevemos p al origen, y sean \Phi_s y \Psi_t los flujos de V_1 y V_2. Como [V_1, V_2] = 0, los flujos conmutan: \Phi_s \circ \Psi_t = \Psi_t \circ \Phi_s [1].
Definimos F(s, t, c) = \Phi_s(\Psi_t(0, 0, c)). Entonces \partial F/\partial s = V_1, y como los flujos conmutan, también \partial F/\partial t = V_2. En el origen \partial F/\partial c = \partial_z, y los vectores V_1, V_2 y \partial_z son linealmente independientes, así que (s, t, c) son coordenadas cerca del origen. En estas coordenadas V_1 = \partial_s y V_2 = \partial_t.
Así, D está generado por \partial_s y \partial_t, y cada superficie en la que c es constante es una superficie integral. La figura construye una de ellas: desde el punto q = (0, 0, c) sigue V_2, y después V_1 desde cada punto alcanzado. Seguirlos en el otro orden (a trazos) pasa por los mismos puntos. Con k campos vectoriales que conmutan, el mismo argumento prueba el teorema para distribuciones de cualquier rango en cualquier variedad.
El caso opuesto es el de campos como el que se tuerce, en los que X, Y y [X, Y] juntos generan todas las direcciones. Por el teorema de Chow-Rashevskii, dos puntos cualesquiera de una variedad conexa se pueden unir entonces por una curva tangente a D [2].
Para el campo que se tuerce, esto es lo que sugerían las escenas anteriores: una curva tangente a D puede moverse en cualquier dirección horizontal, y al dar vueltas a lazos cambia su altura. La figura muestra los puntos que se alcanzan desde el origen con curvas tangentes a D de longitud a lo sumo L, midiendo la longitud con X e Y como vectores ortonormales. La región es un sólido alrededor del origen. Su anchura crece como L y su altura como L^2, así que para L pequeño es aplanada, y se vuelve más gruesa al crecer L.
Para un campo involutivo, una curva tangente a D nunca sale de la superficie integral en la que empieza, así que los puntos que alcanza forman un trozo de una sola superficie. Cuál de los dos casos ocurre depende del corchete.