El taller de datos

El pasado 21 de noviembre, asistí a una jornada organizada por NAIR en el Archivo Real de Navarra, con el objetivo de sensibilizar sobre las oportunidades y el impacto de la inteligencia artificial (IA) en la sociedad.

La jornada estuvo dividida en tres bloques:

BLOQUE 1: IA y la transformación socioeconómica

En este bloque, Manuel González Bedía (Director General de Planificación Estratégica en Tecnologías Digitales Avanzadas y Nueva Economía de la Lengua) presentó un análisis estratégico y las políticas públicas en torno a la IA.

Comentó que en la última década han convergido varios factores que han facilitado la aparición de la IA:

• Capacidad de supercomputación
• Tarjetas gráficas
• Repositorios de datos

Destacó que es inusual que tecnologías revolucionarias no hayan recibido un enfoque público potente anteriormente. En algunas ocasiones, los avances del sector privado no siempre son los más interesantes.

Habló también sobre ChatGPT y la IA Generativa, que están generando grandes expectativas. Se presentó un programa inicial para canalizar acciones relacionadas con la IA Generativa, enfocándose en tres áreas clave:

1. Impulsar la inversión en supercomputación, planificando la infraestructura hardware y software.
2. Fomentar el talento.
3. Realizar actividades abiertas.

Además, mencionó el Centro ALIA, que cuenta con más de 7 millones de parámetros y está enfocado en modelos de lenguaje. Este sistema de IA, entrenado en español y lenguas cooficiales, es una gran contribución de España al campo. ALIA tiene más del 20% de su entrenamiento en español y lenguas cooficiales, frente a menos del 5% en otros modelos actuales. Se alimenta de todo tipo de documentos oficiales, como los diarios de sesiones del Congreso de los Diputados, el Boletín Oficial del Estado (BOE) y los fondos de la Biblioteca Nacional.

También se abordaron las IA Factories, que se centran en:

1. Modernización.
2. Generación de tecnología europea.
3. Servicios de I+D.

Es crucial aprovechar las instituciones financieras, como el Banco de Inversión para el Desarrollo.

Se identificaron varios casos de uso de la IA, entre ellos:

1. Aplicaciones en el ámbito público, que pueden dividirse en tres categorías:
   • IA como servicio público
   • Sistemas explotados por la administración
   • Empresas públicas que gestionan estos modelos

Dependiendo de factores como el impacto, la utilidad, la economía y la complejidad, se pueden clasificar los proyectos según sus riesgos.

En este mismo bloque, Nerea Luis presentó una ponencia diferenciada, comenzando con una definición de la IA como un «programa de computación que imita características y comportamientos de la inteligencia humana». Habló también de casos de uso en áreas como la medicina, las ciudades inteligentes, los videojuegos y los genomas humanos.

Destacó a Alphafold 3, AlphaFold – DeepMind, un modelo que, similar a los de lenguaje, predice estructuras de proteínas codificando aminoácidos. También subrayó la importancia de controlar lo que generamos con la IA, haciendo énfasis en la necesidad de un análisis experto, con procedimientos rigurosos y un alto nivel de especialización.

Además, mencionó la importancia de la estandarización de procesos y niveles, la creación de informes detallados, la trazabilidad y la mejora de la calidad de los datos. En cuanto al ecosistema de la IA, destacó aplicaciones de código abierto como Hugging Face, Gemma o Argilla.

BLOQUE 2: Ética y responsabilidad en la IA

Se discutieron temas como la brecha de habilidades, la brecha digital, los sesgos algorítmicos, el coste ambiental y los sistemas de inclusión. Un dato que sorprendió fue el número 97, que representa los puestos de trabajo que la IA generará, aunque esto no parece ser mucho comparado con los puestos que desaparecerán.

También se habló de la Ley de la IA de 2020 y sus precursoras, como las Directrices Éticas para una IA confiable (2019) y la lista de evaluación para una IA confiable (2020).

Se destacó la importancia de mantener a los humanos en el circuito de decisiones debido al impacto legal, social y económico de la IA. Los proyectos deben ser sólidos tanto en términos técnicos como jurídicos, con especial atención a la precisión, la privacidad, la gestión de datos y la transparencia.

En cuanto a los marcos internacionales, se discutieron los enfoques de diferentes países:

• China: Desarrollo de un marco de IA centrado en responsabilidades privadas.
• Singapur: Marco de IA por sectores.
• EE. UU.: Marco para casos de muy alto riesgo.
• Reino Unido: No adoptará un enfoque basado en riesgos.
• Japón: No condiciona la innovación.
• Canadá: Adaptación de un marco basado en riesgos.
• India: Aplicaciones sociales.
• Australia: Al igual que Europa, se centra en la respuesta.

Finalmente, varios ponentes hablaron sobre la aplicación de un código de buenas prácticas en las administraciones públicas y los distintos manifiestos adoptados, además de la creación de un comité de ética para la asesoría y la emisión de pautas de actuación, informes y propuestas.

Unas jornadas con ponentes interesantes , relevantes y prometedoras en un entorno inmejorable.