¡El sistema no me lo permite! Este es la “explicación que te da “atención al cliente” cuando es incapaz de arreglar el bloqueo a que te somete el sistema informático de caixabank “on line”  -sin duda- “por tu propia seguridad”. “El sistema eres tú” debiéramos decirle clavando nuestra pupila azul en su “pupila” azul. Un sistema informático que gestiona todos los recursos de un banco (que además no son suyos) -como los depósitos- debería tener un  margen de seguridad prácticamente perfecto. Cada vez que el sistema falla los perjuicios al cliente son enormes (los pagos deben ser hechos en plazo) y -en muchos casos- si se utilizan los servicios en línea es por la imposibilidad de una gestión presencial por salud, movilidad o lo que sea. Pero el amable gestor clientelar que nos atiende  -cuyo único delito ha sido trabajar para una empresa despótica, insensible y prevaricadora- solo puede decir; “el sistema no me lo permite”… como si el sistema tuviera vida propia. Si esto es así ahora que los sistemas son algorítmicos obedientes a un programa que les dice con exactitud lo que deben hacer, ¿qué ocurrirá cuando se autoprogramen (aprendizaje profundo) y entonces sí, el programa (el algoritmo que utilicen habrá sido efectivamente producido por la propia máquina.

Estamos a vueltas con la IA pero me da la impresión de que solo arañamos la superficie. El primer problema de la IA es que cuáles son los datos o directrices de partida para que inicie ese aprendizaje profundo que le permitirá progresar independiente de la intervención humana. No me lo creo. “Por nuestro bien”, para evitar que la máquina se desmadre (que es como reconocer que no existe control) existirán procedimientos de intervención directa del humano para cuando la cosa se autonomice en demasía. Es decir el control humano existirá pero no para corregir una desviación de la santidad del saber, sino una desviación de los intereses del fabricante/poseedor. En uno y otro caso: independiente pero no absolutamente. Sometida a los valores de nuestra civilización o a los caprichos de su amo. Lo que deja sin resolver cuales son esos valores a los que debe ajustarse el proceder de la máquina. Vivimos en un mundo polarizado: al socialismo se opone el liberalismo, al conservadurismo, el progresismo, a la mujer, el hombre y la inteligencia, la emoción. ¿Existe un término medio? ¿Quién está legitimado para determinar esos valores? Esa es la cuestión previa a toda máquina destinada a pensarlo todo, incluso su propio diseño. ¿Alguien ha oído hablar de una comisión de ética que defina esos valores y los límites infrabqueables?. Asimov estableció las leyes de la robótica desde el punto de vista de la supeditación del robot al humano. No es sufciente. hay que establecer los límites del conocimiento. Hay está el caso de la banalidad del mal de Arendt: El fin de la ciencia no es la perfección (el arma definitiva, el veneno final) sino el bienestar. Existen consideraciones éticas. Pero ese cambio de objetivo de lo masculino a lo femenino, de la perfección a la utilidad ni se ha producido ni se ha planteado. Por cierto el acostumbrado recurso al apagado de la máquina para desactivarla era posible con Hal () pero en la era de internet, con todas las máquinas en red, el recurso es imposible.

La cuarta revolución del desarrollo, la comunión de las mentes individuales, que se inició con el lenguaje (corporal, hablado y escrito), no solo creó la sociedad (como organismo; más allá de una agregación de mentes individuales) sino que abrió el camino a las hipersociedades de la conectividad de humanos y máquinas (internet) y la nube: ese superorganismo en el que residen todos los conocimientos y todos los procedimientos y que actualmente controlan y dirigen: Apple y las redes sociales), pero al que aspiran todas las grandes tecnológicas. Ya se ha dicho pero hay que repetirlo: la información es poder y las bases de datos como la nube o las redes sociales, son la información absoluta. Entregar nuestros datos voluntariamente (para que nos los almacenen o para que nos sitamos parte del universo entero) es abrir nuestra mente a quien quiera manipularla. Ahora lo utilizan para vender (no en vano son los comerciantes los que mueven los hilos) pero en breve lo utilizarán para convencer, para seducir, para apoderarse de nuestro libre albedrío. No tenemos mucha libertad ahora pero el futuro es tenebrosos: ninguna, la esclavitud consentida, la servidembre voluntaria. El ideal del ideario de la dominación. Somos como las células de un organismo multicelular (si pasamos de hablar de cuerpos a hablar de mentes): con cierta autonomía intelectual pero supeditadas a un poder general que es otro grupo de células especializadas en el control: el sistema nervios, las neuronas.  Pertenecemos a un organismo superior a nosotros y que nos controla… lo que no impide que la sensación de libertad (obviamente parcial) no se pierda. Somos parte del organismo multimental que es esta sociedad de la hiperconectividad y del super organismo en el que consiste el universo ziborg de la vida y de las máquinas. No se trata de humanos contra máquinas (como siempre han tratado de oponernos: hombres/mujeres, ricos/pobre, cultos/incultos, del Real Madrid o del Barça), se trata -como siempre- del ciudadano contra el poder, ese poder que se esconderá tras la IA para decirnos: “¡Lo siento. El sistema no me lo permite!”

Se habla de como moderar la inteligencia pura de las máquinas para que resulten más humanas. Es fácil dicen: implantándoles emociones. De esa manera avanzarán hacia la simbiosis perfecta. Sería la emocionalidad artificial (EA). Si la inteligencia (tradicionalmente algoritmizable) parece difícil de controlar, ¡qué decir de las emociones que han sido siempre excluidas de la razón! ¿Con qué razón se puede diseñar la emoción? Veo “The artifice girl” (2022) que trata de esto: ¿Está capacitado el humano para diseñar humanos.?¿No es una contradicción de la ley -lógica- de tipos que impide que un enunciado hable sobre sí mismo (por ejemplo: “Todo es relativo”). No es lo mismo crear inteligencia artificial que crear cerebros artificiales es decir más allá de la inteligencia y adentrándose en los sentimientos y  emociones que nos hacen humanos. Parece que la fusión humano máquina no vendrá de este camino (IA + EA), sino de la protésica, de los ziborg y será paulatina. Ya somos un poco ziborg: implantes de cristalisnos, de huesos (titánicos), de órganos, de marcapasos, de bombas de insulina, etc. Por otro lado una máquina IA puede llegar a las emociones a través del aprendizaje profundo (considerando las emociones como excepciones de la razón) mediante un método mixto de implementación de tipos característicos de emociones e identificación con las excepciones de la razón. De todas formas  -como explica la película- las emociones pueden surgir en la IA sin ser llamadas. Implementar el amor en una máquina para evitar que el humano sea visto como competidor o enemigo supone abrir la caja de pandora de las emociones obsesivas y desbocadas lo que da mucho miedo, como ocurre en otra película sobre la IA: “Osmosis”. El aprendizaje profundo es un melón de cuya bondad nadie puede estar seguro. Porque no estamos seguros de nuestro propio aprendizaje ni nuestro propio cerebro. ¡Zapatero a tus zapatos!

El desgarrado. Agosto de 2026.