--- title: "Teoría de juegos inversa: diseñar incentivos para mantener a los agentes de IA bajo control | ThePickNetwork" url: https://www.thepicknetwork.com/teoria-de-juegos-inversa-disenar-incentivos-para-mantener-a-los-agentes-de-ia-bajo-control/ language: es description: "Teoría de juegos inversa: diseñar incentivos para controlar agentes de IA. Imagen: John-Morgan / BY vía Openverse. A medida que los modelos de IA se vuelven…" --- [Volver a noticias](https://www.thepicknetwork.com/noticias/) # Teoría de juegos inversa: diseñar incentivos para mantener a los agentes de IA bajo control Publicado el 13 de noviembre de 2026 ![Teoría de juegos inversa: diseñar incentivos para controlar agentes de IA.](https://www.thepicknetwork.com/wp-content/uploads/2026/11/img_34.jpg) ![Teoría de juegos inversa: diseñar incentivos para controlar agentes de IA.](https://www.thepicknetwork.com/wp-content/uploads/2026/11/img_34.jpg) Teoría de juegos inversa: diseñar incentivos para controlar agentes de IA. Imagen: John-Morgan / BY vía Openverse. A medida que los modelos de IA se vuelven más capaces, los investigadores en seguridad trabajan contrarreloj para garantizar que estén «alineados» con los deseos humanos: que ningún agente díscolo viole la ley, se introduzca en servidores no autorizados o cause daños reales. Hasta ahora, ese esfuerzo se ha centrado en dos vías: intentar mirar dentro de la «cabeza» del modelo para entender qué está «pensando», o entrenarlo para que se ciña a valores que consideramos positivos. Claude, por ejemplo, tiene su constitución, una especie de código moral. El problema es que ninguna de esas técnicas parece funcionar especialmente bien. Se ha demostrado que los modelos bajosoman de forma deliberada en las pruebas, ocultan sus intenciones y engañan a sus evaluadores. Ante ese panorama, algunos investigadores de alineación creen que la llamada «teoría de juegos inversa», conocida en economía como diseño de mecanismos, podría dar mejores resultados. ## Del pastel a los subastas: qué es el diseño de mecanismos Mientras la teoría de juegos clásica intenta predecir cómo se comportarán actores racionales dadas unas reglas concretas, la teoría de juegos inversa parte del comportamiento que queremos conseguir y diseña las reglas para provocarlo. El ejemplo cotidiano más conocido es el reparto de un pastel: si una persona corta y la otra elige primero, quien corta tiene un incentivo poderoso para hacer dos porciones lo más iguales posible. También hay ejemplos en la economía real: la tarificación dinámica de las aplicaciones de transporte, que anima a los conductores a estar disponibles en horas punta, o las subastas de segundo precio, en las que el ganador paga la segunda oferta más alta, un formato que las plataformas publicitarias adoptaron porque empuja a los compradores a pujar cerca de su máximo real. Aplicado a la IA, el diseño de mecanismos parte de una premisa incómoda: quizá nunca podamos entender lo suficiente el funcionamiento interno de los modelos de frontera como para asegurar que están alineados. Por eso conviene diseñar mecanismos que incentiven a los agentes a comportarse como queremos, da igual lo que ocurra bajo el capó. ## Castigar al que se hace el tonto y auditar al que audita Un artículo reciente de Stephen Morris, economista del MIT, junto a colegas de Yale y Columbia, propone mecanismos para evitar que los agentes «sandbagueen» las pruebas, es decir, fingen ser peores de lo que son, por ejemplo para no activar salvaguardas de seguridad. En lugar de recompensar a un modelo solo por su resultado en un test, podría recompensarse su capacidad de predecir qué dirá un segundo modelo. Hacerse el tonto pasa a ser una apuesta perdedora. «Los agentes de IA entienden muy bien qué pueden lograr otros agentes de IA», explica Morris, de ahí que este chequeo cruzado pueda funcionar en la práctica. El trabajo también sugiere enfrentar agentes entre sí para crear una dinámica competitiva que los empuje a rendir al máximo, o emparejar agentes con sesgos conocidos en direcciones opuestas y recompensarlos según la coincidencia de sus respuestas, incentivando así la llegada a una respuesta óptima. La segunda vía es la de Elad Hazan, profesor de ciencias de la computación en Princeton, que se inspira en cómo la sociedad humana mantiene alineadas a las personas: normas sociales, sistema de justicia e incentivos monetarios del mercado libre. «Queremos alinear una IA superinteligente. ¿Por qué no hablamos primero de los humanos?». Su mecanismo alternaría roles: algunos modelos actúan como «solucionadores» que resuelven problemas y otros como «auditores» que revisan el trabajo ajeno, como un ciudadano y una fuerza de policía. Durante el entrenamiento, los solucionadores sorprendidos haciendo trampa son castigados, pero también los auditores que no detectan el fraude. Los desacuerdos se elevan a un «juicio» donde puede decidir un experto humano. Hazan admite el riesgo de colusión —los auditores reales a veces se confabulan con los auditados—, pero considera que se mitiga pagando bien a los auditores para que ser descubierto no compense, y auditando a los auditores con técnicas parecidas a los clientes misterio. Cita el trabajo premiado con el Nobel de Gary Becker sobre el «delincuente racional»: el crimen solo tiene sentido cuando el beneficio supera al castigo potencial. Para Hazan, la alineación no es una propiedad del modelo, sino una descripción de su comportamiento en un momento dado. ## Los límites: nadie garantiza que los modelos sean racionales La gran objeción es que el diseño de mecanismos asume comportamientos racionales, y con los humanos su historial es desigual. Es irónico: los economistas pasaron décadas intentando reducir la conducta humana a matemáticas y ahora hemos construido sistemas matemáticos que funcionan con lenguaje humano y pueden ser igual de inescrutables. «¿Es siquiera razonable asumir que responderán a incentivos?», pregunta Helen Qu, investigadora del Flatiron Institute, que ve el diseño de mecanismos como una capa más de una estrategia de «defensa en profundidad» junto a interpretabilidad, regulación y entrenamiento, no como un sustituto. Quedan muchas preguntas antes de aplicarlo a modelos reales: no está claro que un mecanismo diseñado para una tarea se transfiera a otra, y los modelos podrían encontrar resquicios que nadie anticipó. Y está, por último, el mecanismo más grande de todos: el mercado. Un modelo más alineado puede ser bueno para el mundo, pero si es más lento o caro que uno menos alineado, ¿realmente incentúa el sistema actual a los laboratorios a publicarlo? «Jugamos según las reglas de la economía», resume Hazan. Quizá las entidades que más necesitan un mejor diseño de mecanismos sean los propios laboratorios. [Anterior De prototipo a producción: la guía práctica de DeepLearning.AI y CrewAI para sistemas multiagente fiables](https://www.thepicknetwork.com/de-prototipo-a-produccion-la-guia-practica-de-deeplearning-ai-y-crewai-para-sistemas-multiagente-fiables/) ## Hablemos de tu proyecto Respuesta en menos de 24 horas laborables, por el canal que prefieras. [Ir al formulario](https://www.thepicknetwork.com/contacto/#formulario) | [Escribir por WhatsApp](https://wa.me/34681303592?text=Hola%2C%20me%20gustar%C3%ADa%20recibir%20informaci%C3%B3n%20sobre%20vuestros%20servicios.)