Garbarz en Concordia: “La inteligencia artificial es la primera revolución tecnológica que puede manipular nuestra subjetividad”

La inteligencia artificial dejó de ser una tecnología asociada exclusivamente al futuro. Está en los teléfonos, en las redes sociales, en los buscadores, en las plataformas de entretenimiento, en los sistemas de seguridad y cada vez más en los mecanismos con los que se toman decisiones económicas, políticas y sociales. Pero para el ingeniero Ariel Garbarz, el verdadero problema no está solamente en lo que las máquinas pueden hacer, sino en quién controla esas máquinas, qué datos utilizan y para qué se utilizan.

Ese fue uno de los ejes de la charla debate que el especialista brindó el viernes pasado en la Sala de Conferencias de la Facultad de Ciencias de la Alimentación de la Universidad Nacional de Entre Ríos (UNER), en Concordia. Durante más de dos horas y media, ante unas 200 personas, Garbarz recorrió los vínculos entre Inteligencia Artificial, Big Data, algoritmos, vigilancia, poder económico y procesos electorales.

La actividad había sido planteada bajo el eje “Tecno feudalismo, Big Data, Palantir y el algoritmo de cara a las próximas elecciones”. La convocatoria fue organizada por el Sindicato Argentino de Trabajadores de Salto Grande (SIATRASAG).

Para Garbarz, existe una diferencia sustancial entre esta revolución tecnológica y las anteriores. No se trata solamente de máquinas capaces de realizar tareas que antes requerían trabajo humano. El fenómeno es más profundo: los sistemas algorítmicos pueden intervenir sobre la manera en que las personas reciben información, construyen percepciones y terminan tomando decisiones.

“Es la primera revolución tecnológica que manipula la subjetividad de la gente”, sostuvo. Según explicó, las plataformas pueden construir perfiles de los usuarios (avatares) a partir de sus comportamientos y utilizar esa información para enviarles contenidos destinados a estimular determinadas emociones, en particular el odio.

Uno de los conceptos que atravesó la exposición en Concordia fue el de la “colonización de las subjetividades”. La expresión apunta a un mecanismo que funciona de manera casi imperceptible: las plataformas recopilan información sobre los usuarios, procesan esos datos mediante algoritmos y utilizan los resultados para decidir qué contenidos mostrar, cuáles ocultar y cuáles colocar delante de cada persona.

En ese proceso, el usuario no necesariamente recibe la misma información que recibe otra persona. Cada individuo puede quedar encerrado en un universo informativo construido a partir de sus hábitos, preferencias, miedos, consumos, vínculos e intereses.

“Los algoritmos no solo organizan la información”, es el planteo que Garbarz viene desarrollando en sus charlas, sino que pueden terminar condicionando aquello que las personas perciben como relevante.

La consecuencia política se da cuando la tecnología puede conocer las características de millones de personas y, al mismo tiempo, seleccionar qué mensaje recibe cada una, entonces la discusión deja de ser tecnológica y pasa a involucrar directamente a la democracia.

En ese contexto  apareció también uno de los nombres que el ingeniero viene siguiendo especialmente: Palantir Technologies, la empresa vinculada al empresario Peter Thiel.

Garbarz utilizó el caso para mostrar cómo la combinación de Big Data, Inteligencia Artificial y sistemas de vigilancia puede concentrar una capacidad de conocimiento sobre la sociedad que hasta hace pocos años parecía reservada a los Estados.

Palantir desarrolló plataformas destinadas al procesamiento y análisis de enormes volúmenes de datos y trabajó con organismos gubernamentales y de inteligencia. Para Garbarz, el problema aparece cuando ese tipo de capacidad tecnológica se combina con la información que producen cotidianamente millones de usuarios.

No se trata solamente de saber quiénes somos. Se trata de poder anticipar qué podríamos hacer.

Ahí aparece el concepto de “tecnofeudalismo”: un sistema en el que unas pocas corporaciones concentran infraestructuras, datos, plataformas y capacidad de procesamiento, mientras millones de personas utilizan esos sistemas sin conocer completamente qué información entregan ni qué procesos se realizan con ella.

La discusión sobre soberanía, entonces, ya no queda restringida al territorio físico sino al digital, donde se juegan las subjetividades, las conciencias, las voluntades.

La Inteligencia Artificial Inversa

Frente a ese escenario, uno de los planteos de Garbarz es el de la Inteligencia Artificial Inversa (IAI).

La idea parte de invertir la relación tradicional entre el usuario y el algoritmo.

Si la Inteligencia Artificial dominante puede observar a las personas, construir perfiles, detectar patrones, anticipar comportamientos y utilizar esa información para influir sobre sus decisiones, la IAI propone desarrollar la capacidad contraria: observar al algoritmo, identificar sus mecanismos de influencia y recuperar capacidad de decisión frente a ellos.

No se trata, en ese sentido, de rechazar la tecnología ni de volver a un mundo sin Inteligencia Artificial. La propuesta apunta a que las personas puedan comprender mejor cómo funcionan los mecanismos que las rodean y desarrollar herramientas de defensa frente a la manipulación.

Garbarz desarrolló esta idea en el concepto que llamó “Protocolo PAUSA”, presentado como una defensa de un minuto frente a la manipulación algorítmica. La propuesta forma parte de lo que denomina Inteligencia Artificial Inversa.

No alcanza con aprender a utilizar ChatGPT, generar una imagen o pedirle a una máquina que escriba un texto. También sería necesario aprender a reconocer cuándo una plataforma está intentando captar nuestra atención, provocar una reacción emocional, reforzar un prejuicio o conducirnos hacia determinada decisión.

La primera respuesta, desde esta perspectiva, no sería necesariamente tecnológica sino algo mucho más elemental como detenerse antes de reaccionar.

El planteo desplaza parte de la discusión desde las grandes empresas tecnológicas hacia los propios usuarios.

La pregunta deja de ser solamente qué deberían hacer Google, Meta, Microsoft, OpenAI o las empresas que desarrollan sistemas de IA sino qué puede hacer una persona común cuando se encuentra frente a un contenido diseñado algorítmicamente para provocar una reacción inmediata.

Una noticia que genera indignación. Una imagen que produce miedo. Un video que despierta odio. Una publicación que confirma exactamente aquello que alguien ya pensaba. El algoritmo funciona mejor cuando la respuesta es automática. La IAI, en cambio, propone introducir una interrupción: detenerse, analizar, verificar, reconocer la intención y recién después decidir.

Si una parte creciente de la vida social se organiza alrededor de sistemas capaces de conocer nuestras preferencias y predecir nuestras conductas, la defensa de la autonomía individual comienza a depender también de la capacidad para comprender cómo funcionan esos sistemas.

La Inteligencia Artificial ya llegó. Está incorporada a las prácticas cotidianas y su expansión continúa. Por eso, la discusión que Garbarz trajo a Concordia no se reduce a una disputa entre quienes están a favor o en contra de la tecnología. El interrogante es qué tipo de sociedad se construirá alrededor de ella y quién tendrá capacidad para establecer sus límites.

La cuestión involucra al Estado, a las universidades, a las empresas tecnológicas y también a los ciudadanos.

Porque si los datos se convirtieron en uno de los recursos estratégicos centrales de este siglo y los algoritmos son capaces de procesarlos para conocer y anticipar comportamientos, el poder ya no se encuentra solamente en quien posee los medios de producción tradicionales. También está en quien posee los datos, controla las plataformas y decide qué información circula.

Y frente a ese escenario, la Inteligencia Artificial Inversa que propone Garbarz aparece como una idea todavía en construcción, pero con una premisa sencilla: si los algoritmos pueden aprender de nosotros, los seres humanos también tenemos que aprender a leer a los algoritmos.