Las recientes declaraciones de G. Hinte (y su abandono de la plataforma Google) han causado considerable revuelo. La idea de que el progreso es el único camino sigue estando fuertemente arraigado en nuestros corazones. No ha bastado con el calentamiento climático (y su ristra de causas/efectos: contaminación lumínica, atmosférica, nuclear; efecto invernadero; lluvia ácida; deshielo de los casquetes polares; cambio climático, etc.) para que entendamos que el avance tecnológico puede ser no solo positivo sino tremendamente negativo (Virilio). Hinte dice que el desarrollo de la IA requiere de un control cuidadoso y exhaustivo, y como no es el caso, el se va. No es la primera vez que los científicos se plantan en contra del progreso. Ya hubo una revuelta en contra del desarrollo de las armas nucleares y lo ha habido contra el cambio climático, pasando por la investigación con embriones y células madre. La cuestión es ¿existe un peligro real de catástrofe causada por la IA?  Empecemos por el principio.

La inteligencia artificial es un sistema informático capaz de aprender de sus errores. Es decir que una vez puesto en marcha es como un ser vivo inteligente. Kubrick nos lo mostró con aquel ordenador Hal que se revelaba contra los astronautas que lo manejaban (y le daban órdenes). A partir de ahí el estándar ha sido el del ordenador rebelde que se opone a los designios de sus creadores. Los ordenadores de primera generación son como el instinto: programas complejos pero que no pueden salirse de los parámetros para los que fueron creados. Ahora estamos hablando de programas que se  autorreprograman de acuerdo con su interacción con el ambiente (sus errores  y aciertos). Evidentemente la definición de esos errores y aciertos (su moral) será la que determinará su evolución futura. Siempre existirán controles que modelen su comportamiento, pensamos, pero no necesariamente serán eficaces. El mundo de la piratería informática nos ha mostrado que no existe contraseña inexpugnable. No es difícil colegir que no existen controles absolutamente efectivos que el programa no pueda reprogramar.

Según otra acepción en Xataka basics 10/05/2023 “A una inteligencia artificial se la entrena a base de texto, se le hacen preguntas y se le añade información, de manera que este sistema, a base de correcciones a lo largo del tiempo, va "entrenándose" para realizar de forma automática la tarea para la que ha sido diseñada. Este es el método para entrenar a todas las IA, tanto a la de ChatGPT como otras del estilo de los Magic Avatars de Lensa. En el caso de ChatGPT, esta IA ha sido entrenada para mantener conversaciones con cualquier persona. Sus algoritmos deberían ser capaces de entender lo que le estés preguntando con precisión, incluyendo adjetivos y variaciones que añadas en tus frases, y de responderte de una manera coherente”. (Yúbal Fernández, 2023). En la memoria de todos está la reciente caída del banco de Silicon Valley debido a operaciones realizadas con las acciones de este producto cuya salida a bolsa fue estratosférica.

El tema básico de Virilio es poner en evidencia la parte negativa del progreso tecno-cientifico que él, plasma en la idea de Accidente Global, que en el momento de escribir los dos libros en los que se basa este blog no había ocurrido. A nosotros nos toca evaluar si la epidemia de Covid, el crack bursátil del 2008 o la guerra de Ucrania entran en su definición de accidente global. Paul Virilio, “El cibermundo, la política de lo peor”, Cátedra 1997. “Velocidad y política”, La marca, 2006 (1977).

Vamos con dos ejemplos. El primero es el de la decisión última humana que desencadene el holocausto nuclear (en poder del jefe del Estado). La disuasión nuclear consiste en crear armas cada vez más letales (alcance, velocidad, precisión, poder de destrucción). Dichas armas tienen dos funciones: la destrucción de objetivos (estratégicos) y la destrucción de los misiles que nos atacan (antimisiles). La contracción del tiempo que se ha producido desde el comienzo de la guerra fría hace que el tiempo de respuesta en los sesenta era de 15 minutos. En la actualidad es de diez minutos para los misiles balísticos, situados en territorio enemigo y 2 minutos para los situados en el espacio (guerra de las galaxias). La deslocalización de los misiles (colocados en submarinos) acorta el tiempo de reacción. Este tiempo se sigue recortando (acercándonos al minuto fatídico) de modo que ya estamos en el límite de que en ese lapso “quepa” una decisión humana (evaluación y disparo). No queda por tanto otra que dejar en manos de los ordenadores de IA la decisión y acción de pulsar el botón de la destrucción total. Esta delegación que es evidente en el control del aterrizaje y despegue de un avión (para evitar errores humanos) no lo es tanto cuando la decisión incluye una evaluación inteligente de la situación. En el caso de la IA delegar la decisión y la acción en la computadora estratégica supone que la decisión ha pasado del momento de detección del problema al momento de la concepción del programa de la máquina. 

El otro caso es la implementación en las bolsas internacionales de un programa de inteligencia artificial que gestiona (automáticamente) el tráfico de acciones. La cuestión es sencilla. Se trata de realizar el máximo de operaciones en el mínimo tiempo y para ello se implementa un programa de IA que gestiona ese tráfico sin intervención humana. Tal como lo explica “Se ha rebasado el límite de velocidad del intercambio con el programa Trading de las bolsas, que ya no son más que una. Wall street, Londres, Francfort y Tokio, no son más que una sola bolsa” (Virilio, 1997, 105). Pero no solo el programa unifica y controla las bolsas al margen de las decisiones humanas sino que nos pone al borde del accidente global. “Todos los objetos técnicos, sean  cuales sean, inauguran accidentes específicos, locales y ubicados en el tiempo y en el espacio… El crack bursatil es una de las primeras imágenes de la misma” (Virilio, 1997, 89). Virilio (ambos ejemplos son suyos) no menta la IA pero su referencia a ella es evidente.  

En la fecha de escribir este blog Wikipedia contiene la siguiente información sobre Trading: “El trading algorítmico, o trading basado en reglas y procesos, es una modalidad de operación en mercados financieros (trading) que se caracteriza por el uso de algoritmos, reglas y procedimientos automatizados en diferentes grados, para ejecutar operaciones de compra o venta de instrumentos financieros. Es común relacionarlo con el trading automatizado, no todo el trading algorítmico es automático pero todo el trading automático es algorítmico. Debido a que en la automatización está implícito el uso de reglas estrictas y parámetros en este último. Habitualmente la mayor parte de Trading Algorítmico en la actualidad es automático, especialmente cuando hablamos de instituciones financieras o de algoritmos de baja latencia. Quedando relegados los procesos manuales para operadores a largo plazo principalmente. Y no siempre estos procesos son efectivos, lo cual genera pérdidas a los inversores. Esto es recomendable para cuentas de bajas inversiones o en cuentas Cent o en su defecto de práctica” 

El desgarrado. Mayo 2023.