A raíz de de que Jacob Coxon, investigador de OpenAI y Anthropic, renunciara afirmando que cree que habría más del 10% de probabilidades de que la inteligencia artificial pudiera “matar a todos los humanos” en la próxima década, se reaviva el debate sobre su regulación y sus posibilidades técnicas. Además, el ahora arrepentido contó que las empresas de tecnología podrían dejar de tener sus valores alineados a los humanos -como si alguna vez hubiera sido así-. Varios empleados de las big tech afirmaron en medios y en redes que están compitiendo por desarrollar sistemas que podrían superar las capacidades humanas, capaces de hackear todo y hasta destruir a la humanidad. De esta manera, las tecnologías son presentadas autónomas y todopoderosas.
Estas ideas tienen varios problemas que arrastramos hace décadas y vale la pena discutir. Nos encontramos en un momento en el que prima la creencia en el reemplazo tecnológico, en el que las tecnologías son elevadas al estatuto de deidades a las que se rinde culto, entre otros mitos. Desde el sector hightech existe una fuerte propaganda sobre las posibles capacidades humanas de la técnica que implica la fantasía de que la IA piense o tenga sentimientos. No, un sistema de cómputo no piensa ni va a pensar. Pero es un buen negocio que pensemos que sí, que la necesitemos y usemos para todo, que la convirtamos hasta en nuestra novia.
Asimismo, la creencia de que la IA pueda ser malvada o perversa por su propia cuenta, opera en el mismo sentido en función de una antropomorfización de la tecnología. Esto tiene dos problemas políticos, como lo son por un lado, poner al humano como centro de todas las cosas, ignorando la agencia de otras entidades no humanas (naturales y artificiales) sobre el mundo y los fenómenos sociales. Y por otro lado, nos impide hacernos las preguntas adecuadas sobre la(s) tecnología(s). En este punto, podemos pensar en qué sentido es funcional a este capitalismo la idea de fin del mundo. ¿Qué futuros nos clausura el apocalipsis? Como dice mi amigo Gonza Arcos, ¿en qué medida nos conmueve y nos moviliza y en qué medida nos mantienen apáticos y en pánico?
Otro de los problemas tiene que ver con la visión determinista tecnológica que pone en ella toda la capacidad de agencia y deja lo social en un lugar de pasividad. Afirmar que la tecnología tiene todo el poder produce graves omisiones. Primero invisibiliza el trabajo humano que permite su funcionamiento, luego exculpa las responsabilidades de quienes toman las decisiones* y finalmente, nos impide prefigurar futuros y usos tecnológicos mejores. Es pura hiperstición capitalista, están creando la realidad que quieren imponer, no debemos relegar la disputa política por el sentido de las tecnologías.
*Son varones cis del norte tecnofascistas que se encuentran tomando decisiones y ejerciendo dominación patriarcal, colonial y capitalista en nombre de toda la humanidad.
Al determinismo tecnológico de derecha de los tecnorancios, se puede oponer otro problemático determinismo: el social, que subestima la agencia de la tecnología sobre nuestro mundo y que se olvida o voluntariamente deja de lado la discusión sobre la técnica. Por otro lado, hay tecnodeterministas por izquierda que piensan que la solución viene tan solo de la mano de la expropiación. Por eso, es necesario alejarse de las miradas instrumentales que afirman la neutralidad tecnológica o la mirada de que son simples herramientas –buenas o malas según quien las use-. Es más complejo.
Una vez presentados los problemas que nos obnubilan (porque nos nublan el camino), podemos hacernos algunas preguntas más sinceras y pertinentes. ¿Quiénes son los dueños de la tecnología, qué trabajos conllevan las mismas, cómo están diseñadas, qué materialidades implican, sobre qué suelos se posan? ¿Qué extractivismos las hacen posibles, los continuaremos? ¿Basta con cambiar de dueños, cómo es una IA comunista, para qué se usa? ¿Qué diseños abandonaremos y cuáles conservaremos, son todos necesarios? ¿Qué subjetividades se coconstituyen al calor del uso de estas tecnologías digitales, cómo se retroalimentan estos procesos?
El olvido de la advertencia sobre que la IA nos matará son todas las tecnologías que ya están al servicio de la guerra y el genocidio contra los pueblos. Sin embargo, no nos resignamos, la lucha por las tecnologías es una lucha por el lugar en el que se cristalizan todos los conocimientos comunes. En su lugar, necesitamos construir tecnologías alineadas con la reproducción de la vida, que respete sus ritmos, que no destruyan nuestra salud (mental y física) ni la de los seres que habitan el planeta, y que responda a las necesidades de las comunidades (incluso las no humanas).
