Consulta pública sobre el Libro Blanco de la Comisión Europea sobre Inteligencia Artificial

No soy autor de esta propuesta española, tan solo signatario, pero he querido contribuir a su difusión. La versión original y completa en inglés puede leerse aquí.

Los autores principales son: Ángeles Manjarrés, Celia Fernández Aller, David Pastor-Escuredo, Simon Pickin, Jesús Salgado Criado, Arturo Fernández de Velasco, Txetxu Ausín.

Puedes adherirte a la propuesta y firmarla, y puedes consultar la lista de los firmantes.


La Comisión Europea tiene abierto el proceso de consulta sobre el “Libro Blanco sobre la inteligencia artificial: un enfoque europeo orientado a la excelencia y la confianza”.

Un grupo de profesionales e investigadores de diferentes ámbitos relacionados con la Inteligencia Artificial (en adelante, IA) estamos realizando una propuesta para ampliar y mejorar el actual enfoque del Libro Blanco, el cual consideramos que presenta importantes inconvenientes.

En primer lugar consideramos que el compromiso europeo con la agenda 2030 de las Naciones Unidas debe tener un carácter central. El enfoque del Libro Blanco en este sentido es tecnológicamente reduccionista, con una visión de las políticas públicas de Inteligencia Artificial que parecen estar exclusivamente diseñadas para mejorar la competitividad, sin plantear un enfoque en el que la IA sea otra herramienta para mejorar las condiciones de vida de las personas, con especial atención a las personas vulnerables que también se encuentran en Europa. Tal como Naciones Unidas ha reconocido, los Objetivos Desarrollo Sostenible no podrán ser alcanzados sin una revolución digital centrada en las personas y con una base científica.

En segundo lugar solicitamos que se recoja una estrategia para la universalización de los beneficios de la Inteligencia Artificial. A este respecto hacemos dos consideraciones, la primera de las cuales se refiere a la apertura, en el sentido de la próxima Recomendación de Ciencia Abierta de la UNESCO: código abierto, datos abiertos y algoritmos abiertos, son factores habilitadores para la universalización de los beneficios, facilitando la diseminación y la auditoría.

Junto a la promoción de la apertura, se requieren iniciativas concretas para promover ecosistemas de datos que minimicen los sesgos de la IA, por ejemplo, abriendo fuentes de datos del sector público con alto valor científico y social.

El beneficio de la IA depende de datos de calidad. Las instituciones y organizaciones sociales deberían tener también acceso a aquellos datos adquiridos y gestionados por el sector privado que tienen un interés público vital o importante, lo que implica la interconexión de fuentes de datos diversas. Para ello es también necesario diseñar servicios que optimicen el uso y la accesibilidad de los datos, con un nivel adecuado de seguridad y privacidad, en este contexto de interconexión.

La segunda vertiente en cuanto a la universalización de los beneficios de la IA es que queremos alertar sobre la emergencia de una brecha de Inteligencia Artificial que se superpondría a la ya de por sí preocupante brecha digital que se mantiene hoy día a nivel mundial. Existe el riesgo de que con la IA se creen nuevas desigualdades, y mayores dificultades en los procesos de mejora de oportunidades de grupos vulnerables, creándose una barrera adicional: la que se sitúa entre los que pueden beneficiarse de la IA, y los que no (minorías discriminadas a causa de los sesgos sociales y estereotipos amplificados por las técnicas de big data, pequeñas empresas en desventaja competitiva por carecer de la infraestructura que requiere la IA, etc.).

En tercer lugar creemos que la actual redacción del Libro Blanco carece de una profundización en reflexiones éticas y metodológicas que deberían desembocar en el desarrollo de una Justicia Algorítmica. Es necesario poner orden en el panorama actual de sobreabundancia de códigos éticos, pautas y marcos que a menudo sufren deficiencias tales como: falta de rigor científico, subjetividad, incoherencia, superficialidad y redundancia, generándose confusión. Creemos que el Libro Blanco debería promover I+D en la concepción de herramientas de ética aplicada y la definición de indicadores del impacto de las tecnologías en la sociedad. Así mismo, es clave la I+D en certificación de explicabilidad y justicia de los algoritmos.

Otros aspectos importantes que se analizan en el documento que aquí resumimos son la superación de los enfoques etnocéntricos y androcéntricos, la necesidad de educación y alfabetización en IA, la apertura de mecanismos de diálogo entre todos los actores sociales o la necesidad de incentivar experimentación multiescala que guíe el uso masivo de la IA. También se alerta sobre algunos de los riesgos de la IA que no se mencionan en el Libro Blanco y que creemos se pueden amplificar si se prima una visión exclusivamente mercantil y enfocada a la competitividad empresarial, que además corre el riesgo de ser obsoleta ante los profundos cambios sociales y económicos que está experimentado la sociedad europea. El Libro Blanco hace referencia a los derechos humanos, pero tan sólo desarrolla los derechos civiles y políticos (la privacidad, los derechos políticos y las libertades), dejando de lado los derechos sociales, económicos y culturales. Por último se aborda la necesidad de abrir procesos de diálogo en torno a las infraestructuras públicas que se requieren para hacer que la IA beneficie al conjunto de la ciudadanía.

Por todo ello solicitamos la difusión de este documento, en el que hemos tratado de abordar lo que consideramos que son las cuestiones más preocupantes, como un punto de referencia para la adopción de medidas constructivas. Hacemos un llamamiento a los investigadores y profesionales de la IA, así como a los investigadores y profesionales de otras disciplinas que se ocupan de las tecnologías de la IA, para que añadan su firma, de modo que se sumen muchas más voces que hagan que la Comisión Europea recoja todos estos asuntos clave en la estrategia de IA definida en el Libro Blanco.

Las orientaciones del Libro Blanco de la Comisión Europea apuestan por el compromiso individual y la autorregulación, considerando que una intervención normativa pudiera limitar la potencial capacidad innovadora, lo que, a nuestro juicio, puede derivar en impactos negativos a medio y largo plazo incluso en los propios valores europeos. Por otro lado, defienden la asunción de responsabilidades centradas en el correcto desarrollo de los algoritmos pero no en los efectos sociales e impacto de su uso. Finalmente, se muestran a favor de una rendición de cuentas respecto a una serie de compromisos sobre principios tecnológicos (por ejemplo, transparencia) pero no sobre preservación de valores (por ejemplo, equidad). Todo ello asume un marco de pensamiento sobre la Inteligencia Artificial limitador y reduccionista.

Debemos ir más allá de un marco de la IA que es restrictivo, reduccionista y autorregulado, y trabajar por un futuro en el que no sólo se proteja a los ciudadanos contra los riesgos de la IA, sino en el que la IA sea empoderadora y contribuya de manera decisiva a traer la paz, la prosperidad y la justicia, y a mejorar el bienestar social, material y espiritual.

Los temas en cuestión se exploran con un poco más de profundidad en las siguientes secciones (desarrolladas en el sitio original):

  1. El enfoque del Libro Blanco es tecnológicamente reduccionista, en contradicción con el compromiso europeo con la Agenda 2030 de Naciones Unidas, que apenas se menciona, sin concedérsele la debida centralidad.
  2. El enfoque es también etnocéntrico y androcéntrico.
  3. Universalización de los beneficios de la IA.
  4. Sobre la educación de los profesionales de la IA y la alfabetización digital de la población.
  5. Sobre la necesidad de diálogo entre todos los actores sociales, no sólo la industria, con el sector público.
  6. Sobre la necesidad de una reflexión ética y de metodologías y técnicas de apoyo a la ética aplicada.
  7. Sobre la necesidad de fomentar la experimentación a múltiples escalas (con la aplicación de herramientas de ética aplicada y énfasis en los estudios de impacto) antes de promover el uso masivo de la IA en el sector privado, incluidas las PYMES, y el sector público.
  8. Riesgos importantes no mencionados en el Libro Blanco.
  9. Conflictos entre la IA y los derechos fundamentales.
  10. Infraestructuras públicas de datos.
  11. Conclusiones.
  12. Referencias.

2 pensamientos en “Consulta pública sobre el Libro Blanco de la Comisión Europea sobre Inteligencia Artificial

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s