¿Por qué es importante hablar de inteligencia artificial (IA) generativa?

En la última década, los métodos de aprendizaje profundo han experimentado notables mejoras en precisión y generalización, lo que ha dado lugar a grandes avances en la atención sanitaria (por ejemplo, el diagnóstico del cáncer) o la ciencia (por ejemplo, la predicción meteorológica o el modelado de proteínas).

Algunos de los desarrollos más exitosos que utilizan una metodología de aprendizaje profundo son los grandes modelos lingüísticos (LLM). Estos modelos tienen como objetivo generar secuencias de palabras plausibles, pero no necesariamente veraces. El objetivo de los desarrolladores es lograr buenas aproximaciones estadísticas a lo que los humanos podrían escribir según los muchos textos escritos por humanos utilizados para entrenar el modelo.

Varias empresas han creado aplicaciones sobre LLM, como ChatGPT o Bard. Estas aplicaciones sirven para muchos fines, como buscar información, resumir textos o crear contenidos basados en un diálogo con un usuario. Una parte del público ha percibido estos sistemas como un ejemplo de máquinas que adquieren una inteligencia similar a la humana, lo que ha llevado a la comunidad científica a advertir contra esa percepción errónea.

Hay una serie de cuestiones que deben ponerse sobre la mesa para fundamentar un debate sobre el uso correcto de esta familia de aplicaciones, como por ejemplo:

• Ausencia de fiabilidad
• Comportamiento de caja negra
• Rigidez
• Alto consumo de energía
• Sistemas propietarios
• Derechos de autor

Aunque los nuevos desarrollos basados en métodos de aprendizaje profundo están produciendo importantes avances en varias áreas de la ciencia, su uso en el contexto de los LLM debe ser examinado de cerca para evitar la desinformación y las amenazas a la ciberseguridad.

IA generativa y democracia

Las herramientas de IA generativa pueden reducir las barreras a la participación democrática, hacer que los servicios públicos sean más eficientes e inclusivos, y dar a la gente un mejor acceso al conocimiento y mejorar sus habilidades. Las nuevas herramientas de generación de textos y las herramientas de búsqueda, traducción y simplificación de textos complejos diseñadas universalmente podrían mejorar el acceso de los ciudadanos a la información y permitir a más personas expresar sus opiniones sobre cuestiones sociales.

Un debate político en curso en muchos países europeos se refiere a cómo fortalecer la gobernanza democrática de la IA, sin obstaculizar la innovación. Las grandes empresas tecnológicas están hoy detrás de los principales avances en IA. Estas empresas poseen conocimientos, recursos y experiencia en sistemas de IA con potencial para impactar y transformar las sociedades. Sin embargo, los modelos que ponen a disposición del público son opacos. Para reforzar la supervisión pública y los mecanismos de control, será crucial que las democracias establezcan un marco normativo sólido que regule tanto el desarrollo como el despliegue de la IA.

Finalmente, la Inteligencia Artificial tiene potencial para influir en muchos ámbitos de nuestra sociedad y nuestra economía, y el desarrollo tecnológico se produce a un ritmo cada vez más rápido. La cuestión es si la IA puede utilizarse de forma responsable y sostenible, y cómo, es una conversación que sigue abierta.

Puedes acceder a este documento sobre Inteligencia Artificial Generativa, haciendo clic aquí.