7, cuando había reorientado sus estudios hacia la economía, Von Neumann inventó una nueva rama de las matemáticas: la teoría de juegos. Un año más tarde, hizo un descubrimiento fundamental, el teorema minimax. Desarrollos posteriores llevaron, en 1944, a Theory of Games and Economic Behavior (Teoría de juegos y comportamiento económico), escrito con Oskar Morgenstern, que llegó a aparecer en la portada del New York Times. Un juego, en el sentido de Von Neumann, es un modelo matemático simple de dos (o más) jugadores compitiendo, cada uno enfrentándose a varias elecciones, en el que el resultado de cada jugador depende de la combinación de elecciones que haga. Los jugadores se supone que conocen la tabla de resultados, pero no saben las elecciones que hace su oponente. El juego solo puede jugarse una vez, en cuyo caso tenemos que analizar la probabilidad de ganar o perder, o puede jugarse muchas veces, en cuyo caso podemos analizar la frecuencia de victorias o derrotas (y cuánto se gana o se pierde). Un teorema básico en teoría de la probabilidad, la ley de los grandes números, dice que, a la larga, las frecuencias «casi siempre» dan las probabilidades, de modo que los dos modos de pensar son matemáticamente equivalentes. La elección normal es considerar qué sucede cuando el juego se juega muchas veces, porque nuestra intuición para esto es mejor que nuestra intuición para probabilidades individuales. Piedra-papel-tijera es un juego típico, con una característica excepcional: su simetría triple. La mayoría de los juegos tratan diferentes combinaciones de jugadores de modos diferentes. Por ejemplo, en el modelo del halcón y la paloma, los jugadores están enfrentados por algún recurso. El halcón siempre escoge luchar y continuar la batalla hasta que los jugadores estén heridos o el otro jugador se retire. Las palomas siempre huyen del halcón. Dependiendo de las entradas en la matriz de pagos, puede que a veces haya estrategias mixtas en las que el mejor modo de jugar es cambiar de halcón a paloma aleatoriamente y nuevamente con probabilidades concretas. La teoría de juegos empezó por primera vez a tener éxito en 1928, cuando Von Neumann probó su teorema minimax. Este afirma que en una clase particular de juegos de dos personas con una estructura simple, siempre existe una estrategia mixta que permite a ambos jugadores simultáneamente hacer su máxima pérdida tan pequeña como sea posible. Pero este descubrimiento era solo el principio. Otra pieza importante del rompecabezas encajaría cuando John Nash, la persona sobre la que versa el libro y la película Una mente maravillosa, hizo un avance fundamental para los juegos con muchos jugadores. Definió el concepto de un equilibrio de Nash y probó que siempre existe. Un conjunto de jugadores está en equilibrio de Nash si cada miembro del grupo está haciendo la decisión que es mejor para él, conociendo las decisiones que los demás han hecho. Este es un candidato prudente como estrategia racional. El mayor responsable para la aplicación sistemática de la teoría de juegos en la biología evolutiva es John Maynard Smith. En 1973, en colaboración con George Price, genetista de poblaciones londinense afincado en América, John Maynard Smith propuso uno de los conceptos más importantes en el área, el de estrategia evolutivamente estable. Esto es un refinamiento del equilibrio de Nash y precisa las condiciones bajo las cuales ninguna mutación puede invadir con éxito una población, un tipo de estabilidad evolutiva. Imagina una población de organismos en la que todos han adoptado—evolucionado—una estrategia de supervivencia en particular. En una interpretación genética, esta estrategia será inherente a sus genes, como un resultado de muchas generaciones de selección natural. Los organismos no serán conscientes de que están adoptando una estrategia, simplemente será algo que hacen de manera natural, que ha evolucionado porque funciona. Ahora supongamos que hay algún tipo de mutación genética, de modo que un organismo similar, con una estrategia diferente, de repente, aparece en el medio. ¿Puede el mutante establecer con éxito un linaje de descendientes que sobrevivan o desaparecerá por la selección natural? Por ejemplo, considera el juego del halcón y la paloma en el caso trivial en que la población consistiese solo en palomas. Esto no es una estrategia evolutivamente estable, porque cualquier halcón mutante puede invadirlas con éxito. Los halcones siempre ganan contra las palomas, lo que significa que el halcón recibe una recompensa positiva, mientras que la paloma obtiene cero. Maynard Smith diseñó una definición matemática de una estrategia evolutivamente estable. Supongamos que hay una lista finita de estrategias disponibles. Sea E(A, B) el resultado para un individuo que adopta la estrategia original A contra un oponente que adopta la estrategia B. Esta es la entrada en la fila A y la columna B de la matriz de pagos. Antes de que los mutantes aparezcan, hay solo un juego sobre la mesa, toda la población está jugando a la misma Vieja estrategia, y el pago para cada individuo es E(Vieja, Vieja). Cuando el mutante aparece, adopta la estrategia Nueva. El pago para el mutante es entonces E(Nueva, Vieja). Si E(Vieja, Vieja) es mayor que E(Nueva, Vieja), entonces el mutante perderá la competición contra cualquier miembro de la población original, de modo que su linaje se perderá. Hay otras dos posibilidades: o E(Nueva, Vieja) es mayor que E(Vieja, Vieja), o las dos son iguales. En el primer caso, el mutante gana y su linaje sobrevive: ha invadido la población con éxito. En el segundo caso, el mutante termina perdiendo si la estrategia original Vieja tiene un pago más grande contra Nueva que Nueva contra sí misma, es decir, si E(Vieja, Nueva) es mayor que E(Nueva, Nueva). La estrategia Vieja se dice que es evolutivamente estable si ningún mutante puede invadirla con éxito. Algunos juegos tienen estrategias evolutivamente estables, otros no. Una matriz de pagos general para dos estrategias, Vieja y Nueva, tiene este aspecto: Una estrategia evolutivamente estable existe siempre que c sea más pequeño que a, y d sea más pequeño que b.