Hoy día existe una contradicción extraordinaria. Nunca
antes habíamos tenido tanta información con bibliotecas abiertas y algoritmos
capaces de resumir millones de páginas, comparar autores, reconstruir
argumentos y producir ideas con una velocidad infinita. Sin embargo, nunca fue
tan difícil distinguir entre comprender y simplemente consumir conocimiento.
La aparición del ficticio libro “Hipnocracia. Trump,
Musk y la nueva arquitectura de la realidad”, ha sido celebrada como una
ruptura intelectual capaz de explicar una nueva forma de dominación. Su
argumento central afirma que el poder contemporáneo ya no controla mediante la
represión clásica, ni mediante la censura, sino produciendo estados permanentes
de atención fragmentada, simulaciones de realidad y una administración continua
de percepciones y espejismos. No existe una dictadura del silencio, sino una
dictadura del exceso de información, pero “dictadura” al fin.
La tesis parece fascinante, pero ahí comienza el
problema. La fascinación que viene de la Inteligencia Artificial (IA) suele
confundirse con originalidad. En realidad, buena parte de lo que “Hipnocracia”
presenta como descubrimiento, ya fue anticipado hace medio siglo. El filósofo
alemán, Herbert Marcuse, en “El hombre unidimensional” (1964), sostuvo que el
capitalismo avanzado aprendió a neutralizar la revolución, no mediante el
terror, sino satisfaciendo deseos artificiales. El consumo, el entretenimiento
y la comodidad producían sujetos incapaces de imaginar alternativas. La
dominación funcionaba porque las personas comenzaban a amar aquello que las
sometía.
El premio Nobel de literatura, Mario Vargas Llosa, describió
la “sociedad y la cultura del espectáculo”, un ámbito en el que la
representación sustituye a la experiencia. No vivimos los acontecimientos
porque consumimos imágenes de los acontecimientos. El sociólogo francés, Jean
Baudrillard, afirmó que el “simulacro” ya no representa la realidad porque la
reemplaza. Lo verdadero desaparece bajo una acumulación infinita de signos y
mentiras transmitidas por la televisión sin conexión con nada. Incluso la filósofa
alemana, Hannah Arendt, advirtió que las sociedades modernas como Estados Unidos
podían destruir la frontera entre verdad y mentira, no porque todos creyeran
una mentira específica, sino porque dejarían de creer que existe una “verdad
verificable”.
Con estos pensadores reales, el libro escrito por IA, “Hipnocracia”,
no es una revolución epistemológica, sino una reescritura para la época donde
predominan los robots del lenguaje. El libro ficticio tuvo éxito, pero revelando
algo distinto: nuestra memoria intelectual se ha vuelto extremadamente corta.
Cada generación necesita redescubrir conceptos que las
anteriores ya habían elaborado. La aceleración digital produce una curiosa
amnesia cultural y la novedad se convierte en mercancía; de hecho, la gran fama
de “Hipnocracia” constituye una demostración de aquello que denuncia: vivimos
dentro de un mercado permanente de novedades donde la velocidad importa más que
la profundidad. Sin embargo, existe un aspecto nuevo que los clásicos no
pudieron imaginar: la inteligencia artificial.
Hace pocos años, la “simulación” dependía de los seres
humanos, pero hoy un algoritmo puede producir artículos, investigaciones,
discursos políticos, novelas, fotografías inexistentes, videos completamente
falsos, entrevistas imaginarias e incluso teorías científicas suficientemente
plausibles para engañar a especialistas.
No solamente consumimos simulaciones, también comenzamos
a producirlas industrialmente. Aquí aparece una ruptura epistemológica mucho
más profunda, pues durante siglos, la ciencia partía de una premisa
relativamente estable: el investigador buscaba distinguir entre hechos y
opiniones. Ahora esa frontera desaparece porque el investigador debe distinguir
entre hechos, opiniones, simulaciones, reconstrucciones probabilísticas,
contenidos sintéticos y razonamientos generados algorítmicamente.
La pregunta ya no consiste en saber si una afirmación
es verdadera. Debemos preguntarnos si alguna vez existió el acontecimiento que
supuestamente describe. La inteligencia artificial no solamente debilita la
verdad, sino que desestabiliza la evidencia.
Esto modifica radicalmente las ciencias sociales,
debido a que la investigación ya no puede limitarse a verificar documentos, debe
reconstruir procesos completos de producción de información. Cada fotografía
puede haber sido generada. Cada entrevista puede haber sido sintetizada. Cada
documento puede haber sido parcialmente inventado. La “crítica de fuentes”
adquiere una importancia comparable a la que tuvo durante el surgimiento de la
historiografía moderna.
Muchos usuarios de IA experimentan una sensación
creciente de lucidez. Creen pensar mejor, suponen escribir mejor, imaginan comprender
más. Los algoritmos multiplican extraordinariamente nuestras capacidades
cognitivas, pero aquí está la trampa. La velocidad de acceso al conocimiento
puede confundirse con la profundidad del pensamiento, pues resumir cien libros
no equivale a comprender uno solo; comparar veinte teorías no significa haber
desarrollado una teoría propia.
La IA puede ampliar la inteligencia instrumental
mientras debilita silenciosamente la inteligencia reflexiva. Queremos huir de la
incertidumbre, pero no es posible porque pensar siempre fue una actividad
incómoda ya que implicaba convivir con dudas, contradicciones y largos períodos
de “ignorancia”. Los algoritmos reducen esa incomodidad ofreciendo respuestas
inmediatas.
La consecuencia puede ser una ilusión permanente de
comprensión; en este punto, la cultura contemporánea comienza a parecerse a la
película “Blade Runner”, donde los replicantes no son peligrosos porque sean
máquinas. Son peligrosos porque poseen recuerdos que jamás vivieron. Nosotros
comenzamos a construir exactamente esa clase de memoria en la IA; tratamos de recordar
artículos que nunca leímos; recordamos libros resumidos por algoritmos; encontramos
debates reconstruidos por modelos estadísticos. Nuestra memoria empieza a
poblarse de experiencias intelectuales, pero que no existieron nunca.
La película “The Matrix” representa una metáfora
todavía más dramática. Los seres humanos viven convencidos de experimentar el
mundo cuando únicamente experimentan una simulación perfectamente coherente,
adormecidos por la IA. No vivimos dentro de una realidad falsa; vivimos dentro
de interpretaciones suficientemente convincentes para dejar de preguntarnos ¿qué
es la realidad? Esta es la verdadera hipnocracia, no el dominio mediante la
mentira, sino el dominio mediante una realidad simulada.
Las teorías y discursos dejan de ser verdaderos o falsos;
simplemente resultan suficientemente convincentes para impedir nuevas
preguntas. Sin embargo, la función del pensamiento crítico nunca fue proporcionar
respuestas definitivas; su tarea consistía en mantener abierta la posibilidad
de formular preguntas mejores. Por eso la IA representa, simultáneamente, una
oportunidad extraordinaria y un riesgo para el pensamiento auténtico.
La IA puede democratizar el acceso al conocimiento como
ninguna tecnología anterior, pero también puede convertirnos en consumidores
sofisticados de razonamientos que nunca construimos. La verdadera frontera
entre lo real y lo ficticio ya no se encuentra en las máquinas, se encuentra
dentro de nuestra propia conciencia.
Mientras conservemos la capacidad de desconfiar, incluso de las respuestas más brillantes —incluidas las producidas por la IA— seguiremos siendo autores de nuestro pensamiento. El día en que confundamos la elegancia de una respuesta simulada con la “verdad de una idea”, habremos caído en el agujero de la hipnocracia. Entonces, descubriremos que Marcuse tenía razón desde 1964: las formas más eficaces de dominación nunca fueron las que prohibían pensar, sino aquellas que lograban convencernos de que ya habíamos pensado lo suficiente y ya no se necesita ese esfuerzo. La flojera es la mejor aliada de la IA.
Comentarios
Publicar un comentario