Desafíos que plantea la IA generativa y las posibles soluciones TI para hacerles frente

Aunque el uso de las Inteligencias Artificiales no es nuevo, ha sido en los últimos meses que ha cobrado mayor relevancia y notoriedad gracias a los exponenciales avances de varias empresas e iniciativas que han facilitado su uso al público en general.

En pocos meses estas herramientas están pudiendo ser utilizadas por cualquier persona y prometen ser un elemento disruptor que afectará en el futuro a cada vez más aspectos de nuestra sociedad.

En gran parte se debe al realismo de las imágenes que se pueden generar, y a la consistencia con la que se pueden crear textos convincentes y aparentemente rigurosos, así como audios, música y otros tipos de creaciones. Por otro lado, el volumen, la conveniencia y facilidad de interacción hace que sea una tecnología atractiva y muy útil para un importante porcentaje de necesidades.

Son muchos los desafíos que esta tecnología plantea: En primer lugar la rapidez y facilidad con la que las inteligencias generativas permiten a cualquier persona o institución obtenga y haga circular obras de todo tipo con apariencia de realidad, puede ocasionar que se use de forma maliciosa para propagar noticias e informaciones falsas con el objetivo de manipular o dañar.

Éste no es un problema inherente de las inteligencias artificiales, pues informaciones falsas y manipulaciones se han dado siempre. El desafío ahora es el volumen y la sofisticación a la que se puede llegar. Una consecuencia poco deseable es que nos podemos encontrar en una situación en la que cada vez más gente podría inclinarse por no creerse nada, tampoco cuestiones o noticias reales, pudiendo suponer una crisis sin precedentes para los medios de comunicación. Esta desconfianza en la información puede reforzar las cámaras de resonancia de grupos de personas que aceptan o descartan las informaciones no en función de los hechos, sino de únicamente sus deseos como colectivo.

Otra cuestión que se está planteando tiene que ver con la forma en la que estas inteligencias funcionan para aprender; qué bases de datos manejan y qué sesgos se pueden estar imponiendo en función de los algoritmos. La importancia de esto es clave cuando se usan estas herramientas para tratar de crear documentación anclada en la realidad. Sesgos de muestras de distintas etnicidades, afiliaciones políticas y multitud de otros factores pueden estar influyendo de forma casi inadvertida en las obras que los algoritmos terminan generando. Es decir, aquí no hablamos tanto de noticias falsas, como de noticias que contienen un sesgo originado por los datos utilizados durante su aprendizaje.

Por citar otro desafío más, queda por definir quién o quiénes serían los titulares de derechos de las obras que se crean, no tanto aquellas que se generan tras la introducción de un texto o solicitud de generación sino cuando las inteligencias artificiales se usan en parte para modificar o construir obras. Es decir, cuando la IA forma parte del proceso creativo de una obra, ya sea sobre un tema real o ficción, en mayor o menor grado.

En primer lugar ya existen iniciativas para que desde los propios programas de generación edición de obras, se incluyan elementos que informen de posibles modificaciones producidas por inteligencias artificiales, especialmente cuando ya se están incluyendo éstas en esos mismos programas.

También se está proponiendo que sean las propias empresas que tienen las inteligencias artificiales las que compartan información sobre sus procesos, bases de datos con transparencia, para entre todas tener un código de buenas prácticas, supervisión y autocontrol. En resumen, cuando estas empresas compartan lo que funciona para dar el mejor y más ético servicio posible, antes se podrán descartar y desterrar usos no deseados.

Por último, poco de esto va a funcionar en muchísimos casos si los propios ciudadanos que vamos a usar estas herramientas no somos honestos con nosotros mismos y no indicamos qué hemos obtenido automáticamente mediante una inteligencia artificial o qué hemos generado con la asistencia de estos sistemas. Informar de la forma en la que creamos las obras, mediante etiquetas como las que se están proponiendo desde la Comisión Europea, va a ser fundamental para dar credibilidad a las noticias y obras cuando sea el caso y para saber cuándo estamos ante algo creado por los algoritmos de las IA.

Resumiendo: Es fundamental que exista transparencia, buenas prácticas, autocontrol por parte de las entidades que mantienen las IA. A esto sumar el trazado de modificaciones e intervención en los programas de edición y finalmente declaraciones transparentes mediante etiquetas por parte de las personas precursoras de la generación de este tipo de obras antes de ponerlas en circulación.

Estamos, sin duda, ante una gran revolución, o evolución al menos, y todas las partes involucradas debemos aprender a valorar la importancia fundamental de la transparencia y trazabilidad de este tipo de obras. Cuanto mejor sea la información relativa a cómo se generan estas obras, mejores opiniones podremos formar para tomar las mejores decisiones posibles.