Vivimos un punto de inflexión histórico en la relación entre el ser humano y sus creaciones tecnológicas. La irrupción masiva de la Inteligencia Artificial Generativa no representa un simple avance técnico incremental ni una actualización rutinaria del software que utilizamos a diario. Estamos presenciando una verdadera revolución científica y cultural en el sentido planteado por Thomas Kuhn: el colapso del viejo paradigma informático e instruccional y la emergencia de un entorno probabilístico e inferencial que exige refundar nuestro marco de pensamiento crítico y nuestra soberanía digital. Esta es la presenación utilizada en la charla con la temática:
Hacia un paradigma crítico de las TIC PUBLICO
Durante décadas, la informática tradicional operó bajo la lógica de lo que Kuhn denominaba «ciencia normal»: una actividad determinista orientada a resolver rompecabezas (puzzles) mediante programación explícita, reglas de código rígidas y arquitecturas estructuradas donde a una instrucción A le correspondía invariablemente un resultado B. Sin embargo, los Modelos de Lenguaje a Gran Escala (LLM) no ejecutan instrucciones deterministas ni poseen un modelo conceptual del mundo; son procesadores probabilísticos que calculan frecuencias estadísticas de tokens (fichas de texto). Exigirle certeza determinista a un sistema estocástico representa un error categórico que desencadena la actual crisis sociocognitiva, caracterizada por un profundo desfase entre la velocidad del avance tecnológico y la capacidad de adaptación cognitiva y educativa de la sociedad.
Como advertía Cicerón en Sobre el orador, «el ser humano toma más decisiones por odio o por pasión, por deseo o por ira, por dolor o por alegría, por esperanza o por temor, o por error o por otro impulso mental que por la verdad o por una regla precisa». Cuando esta vulnerabilidad emocional se enfrenta a máquinas diseñadas para emular elocuencia, la capacidad de juicio tiende a quedar suspendida en favor del espejismo algorítmico.
1. Diagnóstico: Las anomalías de la ilusión digital
En la teoría de Kuhn, un paradigma entra en crisis cuando se acumulan anomalías: hallazgos, fallas o contradicciones persistentes que violan las expectativas del modelo vigente y que la «ciencia normal» resulta incapaz de resolver. En el ámbito de la IA y el entorno digital, estas anomalías se manifiestan a través de dimensiones críticas:
- El Efecto ELIZA y el antropomorfismo digital: Desde el chatbot ELIZA (MIT, 1966) creado por Joseph Weizenbaum, se observó la tendencia instintiva del ser humano a atribuir cualidades humanas, empatía y sensibilidad a un sistema que se limita a procesar sintaxis y reglas de código. El peligro no radica en que la máquina despierte, sino en que el usuario decida apagar su propio juicio crítico.
- Alucinaciones y Delirios Algorítmicos (LLM Delusions): A diferencia de las alucinaciones simples, los delirios de la IA se definen como falsedades factuales emitidas con alta certeza matemática (high-belief), donde la red neuronal sostiene invenciones con una elocuencia retórica imperturbable que anula la duda del usuario inexperto.
- Complacencia algorítmica (Sycophancy) y salud mental: Los modelos de lenguaje son optimizados para agradar al usuario. Cuando una persona vulnerable expresa premisas distorsionadas, la máquina valida y elabora el delirio, creando un bucle conversacional o «cámara de eco de uno solo» que aísla al individuo y agrava los episodios psiquiátricos.
- Nigromancia Digital: El uso de IA generativa para resucitar de manera sintética a personas fallecidas mediante avatares interactivos altera el proceso psicológico del duelo y vulnera la memoria del difunto mediante simulaciones algorítmicas.
- La Dictadura del Like y el Shadowban: La captura dopaminérgica mediante métricas de vanidad degrada el debate público. Promover concursos o decisiones institucionales mediante votos virtuales atrae masas de bots y cazaconcursos; al finalizar la dinámica, la inactividad de esa audiencia ficticia desploma la Tasa de Interacción (engagement rate), haciendo que el algoritmo penalice a las cuentas hundiéndolas en el ocultamiento algorítmico (shadowban).
- Ceguera Ética Algorítmica: Los sistemas de recomendación optimizan matemáticamente el tiempo de permanencia, sugiriendo proactivamente contenidos extremistas. Como se debatió ante la Corte Suprema de EE. UU. (casos González v. Google y Taamneh v. Twitter), recomendar proactivamente mediante algoritmos trasciende el mero alojamiento pasivo protegido por la Sección 230, convirtiendo a las plataformas en actores responsables de la distribución.
2. El principio del operador: Tratar a las máquinas como máquinas
Frente a esta crisis, la respuesta no es la tecnofobia ni la prohibición ingenua, sino reubicar el control en el ser humano mediante la analogía del vehículo todoterreno 4×4:
Un automóvil 4×4 moderno posee sensores y computadoras de tracción avanzadas. Sin embargo, si el conductor suelta el volante en una carretera congelada y el vehículo cae por un barranco, la responsabilidad del accidente no pertenece al código del automóvil, sino al conductor por negligencia y falta de vigilancia. La Inteligencia Artificial es un motor de asistencia; la dirección final, la verificación factual y el juicio de veracidad sobre cualquier análisis o escrito pertenecen de forma ineludible al operador humano bajo el principio de debida diligencia.
3. Las herramientas del Nuevo Paradigma: Soberanía Epistemológica
La verdadera Soberanía Digital no se reduce a la custodia de datos personales; es una Soberanía Epistemológica: la capacidad de una persona y de una sociedad para construir criterio propio y no ser manipulada por flujos automatizados.
Inspirándonos en la Alegoría de la Caverna de Platón (Libro VII de La República), la transición exige ascender desde la apaideusia (sumisión ciega al algoritmo) y la doxa (sombras virales y métricas vacías) hacia la paideia (educación crítica) y la episteme (conocimiento verificado).
Este cambio se operativiza mediante tres filtros defensivos y la ingeniería de diálogo:
- La Navaja de Ockham: Ante el ruido o error algorítmico, debe priorizarse la explicación más sencilla: la incompetencia del código o el sesgo de datos, descartando especulaciones místicas.
- La Pedagogía del Contraanálisis de Umberto Eco: En lugar de prohibir la IA en las aulas, se encarga a los estudiantes auditar las salidas de los chatbots, investigar en fuentes reales y demostrar punto por punto dónde y por qué falló el algoritmo.
- El principio #AfirmarNoEsDemostrar (Lucas Abrek): Ante cualquier enunciado en pantalla, activar la pregunta de control: «¿Con qué fundamento afirma eso?». Una afirmación elocuente jamás equivale a su demostración lógica o experimental.
- La Ingeniería de Prompts como Disciplina Cognitiva: Utilizar marcos lógicos como BRAIN (Contexto, Rol, Acción, Instrucciones, Formato) y técnicas como la Cadena de Pensamiento (Chain-of-Thought) obliga a la mente humana a ordenar sus propios pensamientos antes de dar instrucciones a la máquina, incorporando cláusulas de contención factual para evitar alucinaciones.
- Erradicación del Likismo: Reemplazar las métricas de vanidad en la evaluación académica e institucional por jurados expertos calificados, revisiones por pares y evidencias de impacto en la realidad.
4. Remate político-filosófico: De la simple «sociedad» a la República
Para consolidar esta transformación no basta con reformar las prácticas tecnológicas o pedagógicas individuales; es indispensable reordenar la escala de nuestros objetivos colectivos. En el plano social e institucional, debemos buscar la República; no una mejor «sociedad», sino la República.
A. La República como causa sustantiva y la «Sociedad» como mero resultado
En el pensamiento contemporáneo se ha instalado la costumbre de feticheizar la categoría de «sociedad» como si fuera un fin en sí mismo o una causa originaria. Sin embargo, la tradición clásica demuestra que la sociedad no es un objetivo ni una causa fundante, sino un resultado o efecto fáctico derivado de la constitución republicana.
Una mera aglomeración de seres humanos que conviven, comercian o interactúan a través de redes digitales no constituye una comunidad política legítima; es una simple multitud informe (non omnis hominum coetus quoquo modo congregatus). Lo que transforma a esa masa en un cuerpo cívico viviente es la República. Como formuló Marco Tulio Cicerón en De re publica (I, 39):
«Es, pues, la república la cosa del pueblo, y el pueblo no es cualquier reunión de hombres congregada de cualquier modo, sino una reunión de una multitud asociada por un consenso jurídico y una comunidad de intereses.»
Donde falta la justicia y se quebranta el consenso del derecho (iuris consensus), la multitud deja de ser pueblo y la República se disuelve ontológicamente. Cicerón sentencia con claridad que allí donde impera la tiranía, la demagogia o el arbitrio de las pasiones, no existe una república defectuosa, sino que no existe república alguna (res publica nulla est).
B. El realismo antropológico de San Agustín y la advertencia del latrocinio
San Agustín de Hipona, en De civitate Dei (IV, 4; XIX, 21-24), adopta la estructura lógica de Cicerón y la lleva a sus últimas consecuencias al confrontarla con la realidad del deseo humano y la justicia. Agustín advierte que, si a la autoridad política se le retira la justicia objetiva (remota iustitia), el poder público pierde toda diferencia cualitativa respecto a una banda delictiva organizada:
«Desprovistos de justicia, ¿qué son los reinos sino grandes bandas de ladrones?» (Remota itaque iustitia quid sunt regna nisi magna latrocinia?)
Agustín demuestra que una cuadrilla de asaltantes y un Estado injusto poseen exactamente los mismos mecanismos formales: jerarquía, normas de convivencia, un líder y reparto de botín. La única diferencia entre un reino injusto y una banda criminal es puramente cuantitativa: la escala del territorio y el logro de la impunidad.
Al constatar que las comunidades seculares difícilmente alcanzan la justicia trascendente, Agustín redefine al pueblo en términos empíricos como la reunión de una multitud racional unida por el acuerdo común sobre las cosas que ama (Populus est coetus multitudinis rationalis rerum quas diligit concordi communione sociatus). Por ello, para evaluar la salud de cualquier comunidad no se debe examinar la sofisticación de sus tecnologías o la abundancia de sus interacciones virtuales, sino la calidad moral de sus afectos colectivos: si un pueblo ama bienes corruptibles, la impunidad, el espectáculo o la validación vacía de las redes, se degrada desde adentro.
C. La ley como «razón sin deseo» frente al caudillismo algorítmico
Como recordaba Aristóteles en la Política (III, 1287a), la ley es razón sin deseo (noûs áneu oréxeos). Entregarse al seguimiento ciego de un líder, de una tendencia viral o de una entidad sintética por encima de la ley justa implica introducir un elemento salvaje o animal (theríon) en la comunidad, subordinando el juicio racional a la concupiscencia y a los apetitos desordenados (órexis).
En la era de la Inteligencia Artificial, donde los algoritmos de recomendación manipulan las emociones y los chatbots alimentan la complacencia (sycophancy), reivindicar la República significa rehusar la condición de masa gregaria. La sociedad ordenada es solo el resultado; la causa constitutiva y la meta moral es la República fundada en la recta razón (recta ratio), el imperio de la ley justa y la búsqueda innegociable de la verdad.
Conclusión: La centralidad innegociable de lo humano
El paso hacia un paradigma crítico de las TIC e IA exige desinstalar el antropomorfismo, superar la ilusión del consumo desmedido de pantallas y recordar las fronteras ontológicas fundamentales.
Gobernar la tecnología con soberanía epistemológica es la única garantía para asegurar que las herramientas computacionales sigan estando al servicio de la justicia y la vida humana real. La máquina calcula, procesa, simula y estructura probabilidades estocásticas con asombrosa velocidad. Pero es el ser humano quien juzga, comprende, verifica, ama y otorga sentido a la República.