La teoría de juegos es un área de las matemáticas que utiliza modelos para estudiar interacciones en estructuras formalizadas de incentivos (los llamados juegos). Los investigadores en teoría de juegos estudian las estrategias óptimas así como el comportamiento previsto y observado de individuos en juegos. Tipos de interacción aparentemente distintos pueden en realidad presentar estructuras de incentivos similares, y por lo tanto representar conjuntamente un mismo juego. John von Neumann y Oskar Morgenstern fueron los primeros en formalizar el tema en 1944 en su libro "Theory of Games and Economic Behavior" ("Teoría de juegos y comportamiento económico")

Una importante contribución a la teoría de juegos es "Equilibrio de Nash" del matemático y premio nobel de economía John Forbes Nash.

Ejemplos muy conocidos de la aplicación de la teoría de juegos a la vida real son el bailar con la fea y el dilema del prisionero; que tienen muchas implicaciones para comprender la naturaleza de la cooperación humana.