Dilemas

El 8 de septiembre, Jacob Coxon anunció su renuncia a Anthropic y afirmó en X que ni esa empresa ni OpenAI actuaban de manera responsable: corrían hacia una superinteligencia capaz de mejorarse a sí misma y “apostaban con nuestras vidas”. Al día siguiente, Evan Hubinger, investigador de seguridad de Anthropic, respaldó su preocupación y estimó en más del 10 % la probabilidad de que la IA cause la extinción humana en la próxima década. Geoffrey Hinton, premio Nobel, declaró a la BBC que esa cifra no le parecía descabellada y pidió regulación. Son declaraciones individuales, no un consenso del sector, pero vienen de lugares cercanos al desarrollo de estos sistemas: construcción, seguridad e investigación fundacional.

Nada de eso se resuelve con más información. Las partes conocen los datos y comparten casi todos los supuestos, pero ninguna puede detenerse sin temer que su freno se convierta en ventaja ajena. Esa es la estructura de este artículo: un cruce angosto en el que actuar, ceder o esperar tiene un costo. Es un dilema viejo, y usted cruza uno parecido cada semana.

Hay un puente de un solo carril cerca de la casa de un hermano, sin semáforo. Cuando dos autos llegan al mismo tiempo por extremos opuestos, ocurre algo que ninguna regla de tránsito cubre: los dos conductores se miran. En ese segundo se decide todo. Si ambos avanzan, se golpean. Si ambos ceden, nadie pasa y el bocinazo de atrás castiga a los dos. Si uno cede y el otro avanza, el asunto se resuelve en tres segundos y ninguno vuelve a pensar en ello.

Ese puente es el modelo más honesto que conozco de la vida cotidiana. Muchos problemas importantes no ofrecen una salida que preserve todo lo que valoramos: hay un cruce angosto, otra persona con intereses propios y una decisión en la que cada alternativa sacrifica algo. A eso llamamos dilema. Y, aunque sus circunstancias parezcan infinitas, sus estructuras se repiten en unas pocas formas.

Siete dilemas con nombre propio

La teoría de juegos les puso nombre hace décadas. Los nombres suenan académicos; las escenas, no. Usted ha estado en todas.

• La Gallina. Dos autos en el puente angosto. Apartarse evita el choque, pero el que no se aparta gana. Es toda negociación donde alguien sube la apuesta para que el otro pestañee primero: un paro, una guerra de precios, una discusión de pareja a las once de la noche.
• La Caza del Ciervo. Juntos cazamos un ciervo; solo, apenas un conejo. El ciervo alimenta a todos, pero exige que nadie se distraiga con su conejo. Es el equipo que podía hacer algo grande y terminó haciendo seis cosas pequeñas, porque nadie quiso quedarse con las manos vacías si los demás fallaban.
• El Dilema del Voluntario. El vecindario necesita que alguien llame a la municipalidad. A todos les conviene la llamada; a nadie, hacerla. Así se explican los edificios sin mantenimiento y las reuniones sin acta.
• El Bloqueo. Dos partes que preferirían no cooperar y lo saben. No hay traición, hay desencuentro estable: cada uno prefiere lo predecible antes que arriesgarse a una cooperación que ya falló. Es el conflicto que nadie resuelve porque, en el fondo, a nadie le urge resolverlo.
• La Batalla de los Sexos. Los dos quieren pasar la noche juntos; uno quiere cine y el otro partido de fútbol. El problema no es el conflicto de intereses, es la coordinación: cualquier decisión compartida vale más que la mejor decisión por separado. Casi toda pelea por una herramienta o un proceso es esta, disfrazada de asunto técnico.
• El Dilema del Prisionero. A dos personas les convendría cooperar, pero cada una teme que la otra aproveche su confianza. Si ambas se protegen traicionando, terminan peor que si hubieran cooperado. Es el equipo cuyos miembros ocultan información para no quedar expuestos y, al hacerlo, debilitan el resultado común.
• El Ciempiés. Una fila de sobres, cada uno con más dinero que el anterior. Si ambos esperan, ganan más; si uno toma un sobre, termina el juego. El impulso de adelantarse antes que el otro destruye lo que ambos podían acumular: confianza de largo plazo sacrificada por prudencia de corto plazo.

Ninguno ofrece una respuesta universalmente correcta. Cada uno admite dos estrategias: jugar mejor dentro de sus restricciones o cambiar el cruce para que la decisión difícil ya no sea necesaria.

Lo que cambió: la complejidad subió el volumen

Estos dilemas son viejos. Lo nuevo es la velocidad y la cantidad de mesas en las que estamos sentados al mismo tiempo. Antes uno cruzaba un puente angosto por semana; hoy cruza varios al día, con desconocidos, bajo plazos ajenos y mientras la información llega fragmentada por seis canales.

La complejidad no cambia la estructura del dilema: cambia el tiempo disponible para reconocerlo. A menudo no decidimos mal por escoger una opción absurda, sino por diagnosticar mal la escena. Tratamos como Batalla de los Sexos —un problema de coordinación— algo que era una Gallina, donde el otro subía la apuesta a propósito. O leemos como traición lo que era un simple Bloqueo: nadie nos falló, solo nadie tenía urgencia.

La otra salida: cambiar el cruce

Hay una respuesta al puente que no requiere mirada, ni cálculo, ni buena voluntad: un semáforo. El día que la municipalidad lo instale, ya no habrá dos conductores negociando con los ojos; habrá una luz roja y una verde, y ninguno tendrá que ser generoso ni astuto. El dilema entre conductores se disolvió, pero no desaparecieron todos los problemas: la decisión pasó al diseño, el costo y la legitimidad de la regla.

Frente a un dilema solemos preguntar “¿qué hago?”, cuando la pregunta más productiva suele ser “¿qué regla haría innecesaria esta decisión, y quién puede fijarla?”. Las soluciones estructurales cambian el tablero y, cuando el dilema se repite y el costo de la regla está bien distribuido, pueden costar menos que las decisiones difíciles que evitan.

Cada dilema tiene su semáforo:

• Para la Gallina, una regla de prioridad. “El que sube la cuesta tiene preferencia”. Arbitraria, pero conocida de antemano: nadie gana por ser más temerario, porque la temeridad ya no paga.
• Para el Dilema del Voluntario, un turno designado. El comité de vecinos con rotación mensual reparte el sacrificio de uno entre todos. Nadie espera a que llame otro, porque hoy toca.
• Para la Caza del Ciervo, un compromiso visible. Si cada cazador anuncia su posición y todos pueden verificarla, el conejo pierde parte de su atractivo como refugio. La cooperación ya no depende solo de confiar: también depende de observar compromisos y costos de incumplimiento.
• Para el Dilema del Prisionero, verificación y repetición. Si las contribuciones son visibles, la traición tiene consecuencias y habrá otra ronda, cooperar deja de ser un acto ingenuo: se convierte en una estrategia sostenible.
• Para el Ciempiés, un contrato que reparta al final. Si adelantarse no da acceso al sobre, el incentivo a traicionar se apaga solo. La estructura hace innecesaria la virtud.
• Para el Bloqueo, un plazo o un árbitro. Cuando a nadie le urge moverse, solo un plazo con consecuencias —o un tercero con autoridad— vuelve costoso seguir sin acuerdo.
• Para la Batalla de los Sexos, una convención cualquiera. Conducimos por la derecha no porque sea mejor que la izquierda, sino porque alguien la fijó y todos la sabemos. En coordinación pura, cualquier regla clara vence a la mejor deliberación.

Toda regla tiene un precio: compra previsibilidad a cambio de flexibilidad y puede convertir el juicio en trámite. Si está mal diseñada, desplaza el dilema a la disputa por la regla. Conviene estructurar cuando el cruce se repite con muchas personas y conservar el juicio cuando el caso es excepcional.

Y queda un dilema que ninguna estructura resuelve: alguien tiene que pagar el semáforo. Eso es, exactamente, un Dilema del Voluntario.

Dónde ayuda la inteligencia artificial, y dónde no

La inteligencia artificial puede ordenar alternativas y consecuencias, pero no decidir legítimamente por usted: no sabe por sí sola cuánto valen su reputación, sus pérdidas ni la relación con la otra parte. El dilema incorpora valores y responsabilidades que le pertenecen a usted.

Lo que sí hace, y hace muy bien, es acortar el tiempo de reconocimiento. Tres usos concretos:

• Nombrar la escena. Describa la situación en cuatro líneas y pregunte a qué dilema se parece. El modelo propondrá varios patrones en segundos; no acepte la primera etiqueta: compare sus supuestos y descarte lo que no encaje.
• Ver desde la otra silla. Pídale que argumente como su contraparte, con sus intereses y sin concesiones amables. Es el ensayo más barato que existe: averiguar de qué tamaño es el conejo del otro antes de proponerle cazar un ciervo.
• Mostrar la cuenta. Pídale que explicite qué gana y qué pierde cada parte en cada salida. No para que el número decida, sino para ver en qué supuesto se apoyaba sin saberlo. Casi todos los dilemas mal atendidos descansan sobre un supuesto que nadie escribió.

En los tres casos, la máquina ordena el terreno para una elección consciente. Es un espejo rápido, no un oráculo: puede devolver con seguridad algo razonable y equivocado.

El cruce más angosto: la superinteligencia

Volvamos al dilema que nos incluye a todos. La carrera hacia la superinteligencia combina temor a que otro adelante, beneficios concentrados en quien acelera y costos que podrían recaer sobre todos. Las estructuras anteriores permiten verlo con más claridad.

De lo que dijo Coxon circuló la frase fuerte, pero lo más incómodo fue otra afirmación suya: que algunos ejecutivos e investigadores moderan en público un temor que expresan en privado. Si esa descripción es correcta, el cruce que se negocia ante la prensa no coincide con el que los propios conductores creen ver.

El debate visible ofrece tres respuestas —detener, regular o continuar sin nuevas restricciones— y una cuarta menos atendida. Los dilemas anteriores permiten comparar sus incentivos y costos sin pretender agotar la discusión.

• Detener es una Caza del Ciervo, y de la peor clase. El ciervo —frenar hasta saber cómo controlar lo que se construye— alimenta a todos, pero exige que ningún laboratorio y ningún país salga a perseguir su conejo. El argumento que siempre gana, “si nos detenemos, avanza el otro”, es el temor a la traición del cazador. Una moratoria unilateral no es una solución: es un conejo entregado.
• Ignorar es un Ciempiés sin última ronda conocida. Cada nueva capacidad es un sobre con más dinero que el anterior, y mientras sigan apareciendo sobres nadie quiere ser quien se detuvo antes. La diferencia con el juego de mesa es brutal: no sabemos cuál es el último sobre, y el costo de equivocarse no lo pagan solo los jugadores.
• Regular es el semáforo. Es la opción que cambia el cruce en lugar de mejorar la jugada. La carta abierta Pacing the Frontier, firmada en julio por más de mil trabajadores del sector, entre ellos altos responsables técnicos de Anthropic y OpenAI, pide que acuerdos internacionales condicionen el ritmo de desarrollo y reduzcan el peso de la competencia comercial. En el Parlamento británico también se ha presentado un proyecto de ley que propone impedir el desarrollo de superinteligencia hasta que pueda demostrarse que es controlable.
• Desarrollar Hiperinteligencia¹ sería cambiar de camino, no solo de velocidad. En vez de construir una máquina separada que supere el juicio humano, la propuesta busca ampliar la inteligencia humana y colectiva mediante personas, equipos e instituciones acoplados a máquinas potentes que no deciden solas. Las otras opciones discuten cómo cruzar este puente; esta propone otro.

Tiene su propio dilema, y no es menor. La Hiperinteligencia rinde lento —formar criterio, rediseñar organizaciones, construir instituciones capaces de decidir bien toma años— mientras la carrera por capacidad rinde en meses. Es otra vez el conejo contra el ciervo, ahora con los plazos invertidos: lo que alimenta a todos madura después de la próxima ronda de inversión. Esa desventaja temporal explica por qué la propuesta recibe menos atención en anuncios orientados a resultados inmediatos; también explica por qué es la única de las cuatro que cualquiera de nosotros puede empezar a construir el lunes, sin esperar un acuerdo internacional.

A escala planetaria, el costo vuelve a concentrarse en quien acepta el freno primero: velocidad, ventaja y dinero. Es un Dilema del Voluntario y explica, sin necesidad de imaginar una conspiración, por qué resulta más fácil pedir reglas que obedecerlas antes que los demás.

Dos observaciones valen para esa mesa y para la suya. Primero, si el temor privado no entra en la conversación pública, se negocia sobre una versión incompleta del cruce. Segundo, nadie sabe si habrá otra ronda: un riesgo existencial elimina la posibilidad de corregir el error después.

Cuatro cosas para tener a mano

• Pregunte primero qué juego es. Antes de elegir la jugada, nombre la escena. Cinco minutos aquí ahorran semanas de jugar bien un partido equivocado.
• Distinga decidir de rediseñar. Si el mismo dilema se le repite con distintas personas, no tiene un problema de decisión: tiene un problema de diseño, y la regla que le falta le ahorra las próximas veinte decisiones.
• Averigüe si habrá otra ronda. Todo cambia según si volverá a cruzar el puente con la misma persona. En una relación que continúa, ceder hoy puede convertirse en crédito; en un cruce único, esa expectativa desaparece. Pero una sola ronda no vuelve inútil la cooperación: todavía importan los costos inmediatos, los compromisos y lo que cada parte valora. El Ciempiés se arruina cuando alguien decide, en silencio, que esta era la última ronda.
• Haga explícito lo que el otro no puede saber. La mitad de estos dilemas se endurecen por información que nadie dijo en voz alta. Decir “esto es lo que puedo perder” no es debilidad: es lo que convierte un choque frontal en un cruce ordenado.

Quienes atraviesan bien estos dilemas no son quienes calculan más rápido, sino quienes reconocen a tiempo qué juego están jugando. Hoy tenemos máquinas que calculan mejor que nosotros. Hacer visible el riesgo, elegir con quién cooperar y decidir qué reglas o instituciones necesitamos sigue siendo tarea nuestra. El cruce más angosto no premiará al primero que acelere, sino a quienes consigan atravesarlo juntos.

Publicado originalmente en Substack