Hay una frase que resume uno de los riesgos menos comprendidos de la inteligencia artificial: “La IA te permite llegar más rápido a una mala idea”.
No significa que la IA necesariamente razone peor que nosotros. El problema es otro: hemos desarrollado herramientas capaces de buscar, relacionar, resumir y presentar información a una velocidad extraordinaria, pero nuestra capacidad para verificar si aquello que producen es verdadero no ha aumentado al mismo ritmo.
En 2026, un episodio dentro de la estructura de inteligencia militar estadounidense mostró hasta dónde puede llegar esa diferencia. Según una investigación periodística de CNN, un analista utilizó inteligencia artificial para procesar información sobre un buque chino que navegaba hacia Oriente Medio.
El sistema produjo una conclusión falsa: interpretó que transportaba componentes vinculados con un programa nuclear.
La información no quedó encerrada en una conversación con un chatbot. Fue convertida en un producto de inteligencia, ingresó en una estructura institucional y contribuyó a activar preparativos para interceptar el buque. Una revisión posterior detectó el error y la operación fue detenida.
Decir que “una IA casi inició una guerra” sería técnicamente impreciso.
La IA no decidió interceptar el barco. Los seres humanos lo hicieron.
Pero actuaron sobre información cuya elaboración había sido parcialmente delegada a una herramienta capaz de producir una conclusión equivocada con suficiente coherencia y apariencia de solidez como para avanzar dentro de una cadena de decisión.
Ahí está el verdadero problema.
El error también se acelera
La inteligencia artificial comprime procesos que antes requerían horas o días. Una premisa equivocada puede convertirse rápidamente en una conclusión, esa conclusión en un informe perfectamente redactado y ese informe en nuevas decisiones.
En pocos minutos podemos construir alrededor de un error algo que parece conocimiento.
La velocidad no distingue entre verdad y falsedad. Tampoco debemos confundir coherencia con verdad.
Un sistema puede construir una explicación impecablemente organizada sobre una premisa falsa. Cuanto mejor sea su capacidad lingüística y argumentativa, más convincente puede resultar el producto final.
Por eso las llamadas “alucinaciones” son solamente una parte del problema. El riesgo aumenta cuando dejamos de verificar porque el resultado parece suficientemente sólido.
Delegar algo anterior a la decisión
Cuando hablamos de los riesgos de la IA solemos preguntarnos cuánto poder de decisión estamos dispuestos a entregar a una máquina.
Quizás la pregunta llega demasiado tarde.
Antes de delegar decisiones podemos haber delegado algo todavía más básico: la determinación de aquello que consideramos verdadero.
Es una forma de delegación epistémica.
La máquina no necesita tener autoridad formal para decidir. Basta con que dependamos de ella para seleccionar información, relacionarla, interpretarla y establecer qué merece nuestra atención.
El humano continúa dentro del circuito, pero puede terminar revisando una realidad previamente seleccionada y organizada por el sistema.
Por eso tener un humano en el circuito no garantiza control si ese humano simplemente confirma lo que la máquina ya construyó.
La supervisión solo funciona cuando existe capacidad real de contradicción y verificación independiente.
El riesgo está también en el sistema
Un chatbot aislado puede equivocarse sin producir consecuencias relevantes. Pero conectemos ese mismo sistema con bases de datos, documentos institucionales, analistas, superiores jerárquicos, protocolos y capacidad material de actuación.
datos → IA → interpretación → documento → institución → decisión → acción.
Una información incorrecta puede adquirir autoridad porque aparece en un informe. El informe adquiere legitimidad porque pertenece a una institución. Y la decisión posterior puede parecer racional porque está respaldada por información que ya atravesó diferentes niveles de una organización.
El error original sigue siendo el mismo.
Lo que aumenta es su capacidad de producir consecuencias.
Y esto no es solamente un problema militar.
Puede ocurrir con un abogado buscando jurisprudencia, un médico sintetizando una historia clínica, un banco evaluando una operación, una empresa estudiando una inversión o una administración pública preparando una decisión.
La inteligencia artificial puede aumentar extraordinariamente nuestra capacidad de analizar y actuar.
Pero también puede aumentar extraordinariamente nuestra capacidad de equivocarnos de manera organizada.
La nueva escasez
Durante mucho tiempo el problema fue acceder a información.
Ahora podemos producir análisis, hipótesis, informes y respuestas prácticamente sin límite.
En ese escenario, el recurso escaso comienza a ser otro:
la verificación.
La inteligencia artificial está reduciendo radicalmente el costo y el tiempo necesarios para producir respuestas. No ha reducido en la misma proporción el costo de determinar si esas respuestas son verdaderas.
Por eso el desafío no consiste en prohibir la IA ni en regresar a procesos manuales. Consiste en comprender que cuanto mayor sea la velocidad de producción de información, mayor deberá ser nuestra capacidad independiente de verificarla.
La pregunta ya no será solamente cuánto puede hacer la inteligencia artificial por nosotros.
Será también cuánto estamos dispuestos a dejar de comprobar por nosotros mismos.
Porque la IA puede permitirnos llegar más rápido a una mala idea.
El verdadero desafío es evitar que esa mala idea llegue también más rápido al mundo real.
