En enero de 2024, miles de votantes de New Hampshire recibieron una llamada con la voz de Joe Biden que les pedía no votar en las primarias. Era una voz sintética, creada con inteligencia artificial por encargo de un consultor político que recibió una multa de seis millones de dólares y fue absuelto en el juicio penal. Pero el problema no termina en quien fabricó el engaño: continúa en quienes lo creyeron y multiplicaron sin pensar. Tampoco es una escena lejana: rumbo a la segunda vuelta peruana de 2026, verificadores independientes desmontaron imágenes creadas con IA que circulaban como auténticas. La inteligencia artificial facilita la mentira; nuestra renuncia a pensar le da poder.
Solemos concentrarnos en quien fabrica el engaño y subestimar a quien, al creerlo, lo multiplica. Hace más de ochenta años, Dietrich Bonhoeffer, pastor luterano que pagó con su vida su oposición al nazismo, advirtió que renunciar al juicio propio puede ser más peligroso que la maldad. Comprenderlo permite distinguir dos amenazas que exigen respuestas diferentes.
Dos enemigos que no se combaten igual
En «Después de diez años», escrito a fines de 1942, poco antes de su encarcelamiento, Bonhoeffer sostuvo que la estupidez es más temible que la maldad. El mal puede denunciarse, enfrentarse y detenerse; frente a la estupidez, en cambio, los hechos y las protestas resultan impotentes, porque todo lo que contradice el prejuicio se niega o se descarta.
La distinción decisiva es que, para Bonhoeffer, la estupidez no equivale a falta de inteligencia. Personas brillantes pueden volverse estúpidas, mientras personas sencillas conservan intacto su juicio. Se trata de un fenómeno moral y social: surge cuando alguien entrega su autonomía interior a un poder colectivo y sustituye la reflexión propia por consignas prefabricadas. Por eso, al conversar con esa persona, sentimos que no hablamos con ella, sino con los eslóganes que han ocupado su lugar. La estupidez comienza, entonces, no cuando alguien ignora algo, sino cuando renuncia a juzgarlo por sí mismo.
Los griegos representaron estas amenazas con figuras distintas. Crono encarna la maldad calculada que trama para conservar el poder. Atē representa la ceguera que conduce a la destrucción con la convicción de actuar correctamente. Epimeteo —«el que reflexiona después»— comprende su error cuando el daño ya es irreversible. Uno calcula el daño; los otros dejan de verlo antes de producirlo.
Una fábrica de eslóganes a escala planetaria
Lo que en 1942 requería un aparato de propaganda estatal hoy lo produce, a costo casi cero, la arquitectura de nuestras herramientas digitales.
Las redes sociales viven de la atención, y la indignación la captura mejor que los matices. El algoritmo premia lo binario, emocional y breve, hasta encerrar a cada usuario en una cámara de eco donde la contradicción se vive como agresión. Nadie nos impone esa jaula: la elegimos porque ofrece comodidad, identidad y pertenencia.
La inteligencia artificial añade una capa más sutil: redacta, resume y aconseja con una elocuencia que puede confundirse con autoridad. Al ahorrarnos esfuerzo, nos invita a delegar el juicio sin advertirlo. Así nace una servidumbre sin fricción que, como el canto de las Sirenas, ofrece conocimiento mientras nos conduce contra las rocas.
Aquí aparece el modelo que une ambos planos: el mal instrumentaliza a la estupidez. Los actores maliciosos son pocos. Usan bots, deepfakes y segmentación publicitaria, pero su poder depende de una masa que amplifica sin examinar. Troya no cayó por la astucia de Odiseo, sino porque los troyanos desoyeron a Casandra e introdujeron con júbilo el caballo dentro de sus murallas. El adversario puso la trampa; la ceguera colectiva hizo el resto.
Por qué corregir no basta
Si la estupidez fuera falta de información, bastaría con informar. Pero no lo es. Las etiquetas de verificación, las advertencias y la moderación suelen vivirse como censura hostil, y los datos que contradicen una creencia identitaria rara vez la corrigen y, a veces, la endurecen. Bonhoeffer lo intuyó: la instrucción no sirve hasta que ocurre una liberación previa. No se puede obligar a nadie a ser libre.
De ahí se desprende una consecuencia práctica: no toda amenaza informativa se combate del mismo modo. Contra el mal deliberado necesitamos defensa, trazabilidad y sanción. Contra la renuncia al juicio necesitamos condiciones que permitan recuperar la autonomía: pausa, contacto con la realidad y comunidades que piensen en lugar de limitarse a aplaudir. Confundir ambos frentes explica el fracaso de muchos esfuerzos: castigamos al ingenuo como si fuera malicioso o intentamos educar al malicioso como si solo estuviera desinformado.
Cautela con propósito: lo que está en nuestras manos
La cautela no es desconfianza paralizante. Es la virtud de Prometeo, el que piensa antes. Algunas prácticas concretas, para personas y organizaciones:
Interrumpir los bucles. Reducir el consumo de feeds (fuentes de información) diseñados para indignar, desactivar la hipersegmentación cuando sea posible y elegir de forma deliberada qué leer, en lugar de dejar que el algoritmo lo decida.
Usar la IA como herramienta, no como juez. Pedirle fuentes, contrastar con documentos primarios y someter sus respuestas a pruebas con datos observables. En una empresa, esto significa que ninguna decisión relevante salga de un asistente sin revisión humana con nombre propio. Delegar la redacción es razonable; delegar el criterio, no.
Practicar higiene informativa. Asumir que cada contenido que compartimos es un acto del que respondemos. Antes de reenviar, una pregunta basta: ¿lo leí completo?, ¿sé de dónde viene?
Anclarse en lo concreto. Preferir los debates sobre problemas tangibles y consecuencias mensurables —el barrio, la empresa, el proyecto— frente a las abstracciones de los foros virtuales. La realidad física es la Némesis que quiebra la fantasía; mejor encontrarla temprano y en pequeño.
Cultivar comunidades de discernimiento. Grupos de estudio reducidos, conversaciones sin métricas de aprobación, tiempos de desconexión y lectura profunda. El juicio crítico necesita decantación, y la decantación necesita lentitud.
Tecnología que devuelve el juicio
Sería un error concluir que la tecnología es el problema y la abstinencia la solución. La misma ingeniería que diseñó la fricción cero puede diseñar la fricción útil.
En 2020, cuando Twitter empezó a preguntar si los usuarios querían leer un artículo antes de compartirlo, la apertura de artículos aumentó un 40 %. Las Notas de la Comunidad introducen otra pausa: muestran contexto cuando coinciden usuarios que suelen discrepar y, según un estudio de Nature Communications de 2026, reducen en 61 % la difusión de publicaciones engañosas una vez visibles, aunque suelen llegar tarde. El estándar C2PA aporta trazabilidad sobre el origen y la edición de imágenes y videos. Desde agosto de 2026, la Ley de IA de la Unión Europea exige además avisar cuando hablamos con una máquina y etiquetar los deepfakes. Todas estas medidas introducen fricción o trazabilidad antes de que la reacción sustituya al juicio.
Para quienes diseñan, compran o despliegan sistemas de IA —incluidas las pymes latinoamericanas— el criterio es claro: la tecnología debe fortalecer el juicio humano, no reemplazarlo. Los asistentes deben citar fuentes, expresar incertidumbre e invitar a contrastar; las métricas deben evaluar la calidad de las decisiones, no solo la permanencia o la velocidad. Los mejores sistemas serán los que nos devuelvan la responsabilidad de pensar.
La soledad de la responsabilidad
Bonhoeffer llamaba Verantwortung a la responsabilidad asumida en primera persona. Ninguna plataforma, ley o algoritmo puede ejercerla en nuestro lugar. Pueden facilitarla o entorpecerla, y por eso vale la pena exigir mejores diseños. Pero el acto decisivo sigue siendo intransferible.
El mal seguirá existiendo y debemos combatirlo con inteligencia. Pero no podemos ofrecerle su materia prima: mentes dispuestas a repetir antes que comprobar, reaccionar antes que comprender y obedecer antes que juzgar. La libertad comienza cuando dejamos de colaborar con la manipulación y aceptamos el costo de pensar por nuestra cuenta frente al rugido de la masa y al susurro de la máquina.
Esta semana, antes de compartir, decidir o delegar una respuesta a la IA, introduzcamos una pausa y hagámonos una pregunta: ¿estamos usando una herramienta para pensar mejor o para evitar pensar?
Nota del autor: en mis libros La Sociedad Hiperinteligente y La Soberanía Colectiva*, disponibles en Kindle y en versión de pasta blanda, abordo con mayor profundidad y extensión este tema.*