La música generada por inteligencia artificial ya camina a nuestro lado. Pero hasta el momento, ninguna producción de este tipo logró hacer tanto ruido como The Velvet Sundown. En medio del misterio y la provocación, la banda llegó a acumular alrededor de 1.230.000 oyentes en Spotify a poco más de un mes de haber lanzado su primer disco. Actualmente van por el segundo y anunciaron un tercero mediante una leyenda que expresa: “Dijeron que no éramos reales. Tal vez vos tampoco lo seas”.
Promocionada por medio de imágenes creadas por inteligencia artificial y con nombres de músicos ficticios, logró confundir a los medios y a las redes en un periodo muy corto de tiempo. “Esta banda de cuatro integrantes dobla el tiempo, fusionando texturas psicodélicas de los años 70 con alt-pop cinematográfico y un soul analógico de ensueño”, dictaba la biografía de Spotify publicada por el artista, entremezclada con frases provocativas que hacían dudar de la existencia del grupo.
En medio de toda la desorientación y el crecimiento vertiginoso de oyentes, el 29 de junio apareció un usuario en Twitter que dijo ser el vocero de la banda. Bajo el seudónimo de Andrew Frelon, creó una cuenta y posteó un hilo en contra de los periodistas y creadores de contenido que acusaban a la banda de utilizar inteligencia artificial. Grandes medios angloparlantes (e incluso hispanoparlantes) comenzaron a publicar y comentar las declaraciones de aquel portavoz. Incluso la Rolling Stone pudo contactar telefónicamente con el dueño de la cuenta e intercambiar información sobre el nuevo fenómeno.
Pero todos los intentos por desvelar la información detrás de esta novedosa banda resultaron en vano; el vocero no resultó ser quien decía ser. Frelon había estructurado una jugada ingeniosa para dar un golpe bajo a los medios de comunicación. Y exactamente así lo hizo. Mediante la página web de blogs Medium, describió minuciosamente todo el proceso que atravesó para confundir a periodistas profesionales de importantes medios. Haciéndose pasar por una autoridad de la banda, enloqueció a los escritores en búsqueda de una nueva y fresca noticia.
No fue simple maldad, el trabajo que hizo Frelon fue más que un mero engaño. “Este es un ejemplo de ingeniería social”, escribió. Según su publicación, se describe a sí mismo como una persona con un amplio trayecto profesional trabajando en cuestiones de seguridad y políticas para plataformas digitales. Gracias a este perfil, dice conocer bien las dinámicas de los medios de comunicación al cubrir estos temas. En un tono triunfalista, publicó en el blog una lista de periodistas de diferentes medios que intentaron contactar con su cuenta como responsable de la banda, pese a haber declarado no tener intenciones de humillarlos. Para el momento de auge de la cuenta, la banda oficial decidió cambiar la biografía de Spotify, blanquear su uso de la IA —con intervención humana— y vincular su cuenta de Twitter oficial, pero la de Frelon conseguía muchísimo más alcance.
Jugando con la falta de identidad de una banda con nombres de personas que no existen, voces artificiales y una composición maquínica, logró confundir y dejar en evidencia la falta de verificación de fuentes que utilizan incluso los más prestigiosos medios. En su texto denuncia que muchas de las noticias reproducidas se basaban en copiar información de otros sin citar el origen, a pesar de haberla extraído de un mismo y único lugar.
“Mis hallazgos sugieren que existen numerosas y grandes lagunas en el proceso de verificación que utiliza la mayoría de los periodistas, probablemente sobre todo cuando buscan una noticia importante y oportuna como la de The Velvet Sundown”, concluyó el ingenioso impostor.
Esto nos lleva a otro problema: la identidad. Es muy interesante el juego que existe entre un grupo musical ficticio enfrentándose a un conflicto con un portavoz ficticio que dice personificar una identidad que no es de nadie. Los músicos mencionados no existen, Andrew Frelon tampoco, aunque los medios discutieron y en parte creyeron en ambos.
En los tiempos que corren, la inteligencia artificial se entromete cada vez más en las pequeñas fisuras imperceptibles a los ojos de los seres humanos. La ambición mediática de ser los proveedores de una jugosa noticia exige que los métodos de verificación de la información deban ser cada vez más rigurosos y completos. La problemática misma sobre la autoría de producciones asistidas o completamente ensambladas artificialmente se ve opacada por la necesidad de análisis más profundos sobre la implicancia en la verdad y la opinión pública que tienen estos dispositivos.
Está claro que la inteligencia artificial se ha convertido en el nuevo juguetito de quienes plantean instaurar discursos y opiniones. El ejemplo que construyó Frelon sin ningún tipo de recurso fue solo una pequeña demostración sobre cómo confundir al circuito informativo.
Y esta situación hace gotear de a poco sus consecuencias por ínfimas ranuras. No son solo los medios, ni tampoco un usuario anónimo interesado en el arte del engaño. Es la política y la discusión pública. No debemos dejar de observar los cuestionables usos que hace el sector político actual sobre la IA. Un contexto en el que se difunden videos deepfake mediante el aparato paraestatal de comunicación oficialista, donde se abrazan acaloradamente las noticias falsas. Sumado a un ataque indiscriminado a periodistas, a opositores, a simples civiles que opinan con discrepancia.
Frelon no quería solo hacerse pasar por alguien que no era. Su intención era dar cuenta del gigantesco elefante en la habitación. Si bien su accionar hizo eco al haber falsificado la identidad de una crisálida vacía, el trasfondo trasciende el engaño; habla de la implicancia de las nuevas tecnologías, habla de los medios de comunicación. Si a aquellos sistemas por los cuales las sociedades acceden de manera general a la información es tan fácil venderles gato por liebre, ¿cuál es el futuro al que nos avecinamos?
Nuestra capacidad de decidir se nutre constantemente de los consumos de información que tenemos o que se nos transmiten. Nuestra formación de opiniones se ve atravesada por la coyuntura y la agenda mediática. No es solo exigir rigurosidad a la hora de embanderar la palabra de la verdad, es ser conscientes de las amenazas que acechan a la misma.
La tecnofobia no va a solucionar los problemas. No tenemos que estar indefensos ante los ataques que la tecnología pueda ayudar a emprender. Tenemos que comprender los usos y las formas de estas nuevas herramientas para poder utilizarlas a nuestro favor. El miedo y la incertidumbre no van a salvar a nadie, pero tal vez tener conciencia sobre el terreno en el que se camina haga que transitarlo sea un poco más fácil.
