10 conclusiones del evento “Estado de la ética de la IA en Canadá y España” entre OdiseIA y Montreal AI Ethics Institute (MAIEI)
Este artículo es una versión traducida y adaptada del resumen oficial del evento, co-escrito por Muriam Fancy (Network Engagement Manager, MAIEI) y Connor Wright (Partnerships Manager, MAIEI), con quien OdiseIA organizó “El estado de la ética de la IA en España y Canadá”. En dicho evento participaron del lado de OdiseIA: Idoia Salazar, Richard Benjamins, y Adrián González.
La sesión tuvo una primera parte de presentaciones, precedida de discusiones de grupo en dos salas online. A continuación, las conclusiones para ambas salas en diez puntos clave (basados exclusivamente en las conversaciones de los participantes):
1.- La necesidad de un entorno de IA adecuado
Los participantes señalaron la necesidad de crear un entorno adecuado donde las personas puedan capitalizar su nivel básico de conocimientos y avanzar en discusiones sobre IA. Tales conversaciones deben involucrar un elemento interdisciplinario, debido al vasto alcance de la IA en ámbitos diferentes de la sociedad. La IA cubre temas tan diversos que la cantidad de información disponible se vuelve abrumadora y difícil de abordar.
De esta manera, participar en una conversación multidisciplinaria puede proporcionar la información necesaria en todas las áreas, y es clave establecer el entorno adecuado para que esto suceda.
2.- La ética antes que la IA
Como ya se ha demostrado en áreas como la tecnología de reconocimiento facial y sus aplicaciones nocivas, la necesidad de impulsar la adopción de sistemas éticos de IA es más que obvia que nunca. Una de las sugerencias de los participantes fue que un sistema basado en derechos humanos ampliamente aceptados ayudaría a crear el consenso necesario. Tratar de establecer un sistema ético universal no sería un enfoque óptimo para un sistema ético de IA, dada la diversidad de valores éticos en las diferentes sociedades. Como resultado, basar la ética de la IA en los derechos humanos podría generar una mejor aceptación en todo el mundo.
3.- Cómo sería el sistema de cooperación internacional
La IA es un tema global, lo cual significa que los límites físicos son menos importantes que para otros temas, al igual que sucedió con la irrupción de Internet. Un enfoque internacional de múltiples niveles con universidades, observatorios (como OdiseIA ) y gobiernos sería crucial.
4.- Qué puede ayudarnos a hacer la cooperación internacional
La coordinación internacional trae consigo oportunidades para generar una perspectiva externa y global de los problemas y retos de la IA, en lugar de que cada país se centre únicamente en su entorno local. De esta manera, si bien hay barreras lingüísticas y culturales, la importancia de reconocer la escala global de la IA permitirá la creación de perspectivas internacionales que no se tuvieron en cuenta anteriormente.
5.- Generar la comprensión necesaria para preparar a los futuros profesionales de la IA
Se llegó a un consenso en torno a la necesidad de preparación adecuada de los futuros profesionales de la IA, centrándose en la concienciación de una IA interconectada con todas las áreas de la vida humana. Abogados, economistas, historiadores, ambientalistas y demás profesionales deben ser conscientes del papel a desempeñar en la discusión de la IA, al igual que los tecnólogos y desarrolladores de software tienen su lugar para ayudar a dar forma a las leyes resultantes. Para que esto se haga de manera correcta, la preparación no puede centrarse únicamente en un curso de ética en un programa de ingeniería, o un curso de ingeniería en una licenciatura en ciencias sociales. Hacerlo sería una injusticia tanto para las disciplinas involucradas como para la gigantesca tarea que tenemos entre manos.
Una vez que se reconozca la naturaleza interdisciplinaria y de múltiples “capas” de la IA, las discusiones en torno a la ética de la IA pueden ayudar realmente a impulsar la cooperación internacional.
6.- Estrategias para equilibrar innovación y regulación
Los asistentes que presentaron la perspectiva española señalaron la importancia de encontrar un cierto equilibrio entre la creación de políticas y regulaciones para promover la IA responsable, y la creación de estrategias para facilitar la innovación y el desarrollo de la IA. Trazar la distinción entre algoritmos de ‘alto impacto’ y algoritmos de ‘bajo impacto’ es importante para saber cómo ciertas tecnologías deben regularse.
En comparación, el discurso de los participantes canadienses se centró en la idea promover e implementar marcos legales y políticos de regulación para garantizar la seguridad de los ciudadanos públicos.
Ambos países requieren marcos legales y políticos nacionales que se centren en la regulación de la IA para innovar y desplegar tecnología más ética. Sin embargo, las conversaciones entre Canadá y España pueden y deben continuar en foros y organismos como la ONU.
7.- Qué implica la ficción de la IA en el futuro
Para implementar las conversaciones e ideas sobre el diseño, desarrollo y despliegue de IA ética, necesitamos que los profesionales y los ciudadanos públicos estén preparados y sean parte del movimiento. Los participantes españoles señalaron que los profesionales de la IA no están bien preparados para promover un futuro basado en la IA ética, ya que los estudiantes y los profesionales desconocen algunos conceptos de la IA, lo que dificulta la enseñanza de lo que constituye una IA ética. Esto se debe en gran parte al discurso de ficción de estas tecnologías por parte de los medios (por ejemplo, la idea de IA y los robots asesinos).
8.- Empoderar al público a través del conocimiento
La brecha mencionada anteriormente debe abordarse, y una recomendación que se presentó fue la participación ciudadana en iniciativas públicas. Los miembros de la sala señalaron que la falta de conocimiento sobre la IA y los impactos de la tecnología promueven el discurso ficticio de la tecnología, y al mismo tiempo los ciudadanos no cuestionan el impacto de dichas tecnologías (como la recopilación de datos personales). La fuente de ambos problemas se debe al bajo nivel de alfabetización digital en IA y datos. Empoderar al público a través de educación accesible y foros de discusión es necesario para que participen en la discusión sobre el desarrollo y el impacto de la IA.
9.- Cómo se utilizan los datos personales
Una preocupación importante planteada por nuestros miembros en España fue la cuestión de la privacidad y los datos personales. Los marcos como la GDPR proporcionan una base para que los países desarrollen políticas a nivel nacional sobre protección de datos (un problema al que se enfrenta actualmente Canadá, por cierto).
Los miembros del grupo sugirieron que, además de la recomendación de brindar una educación más accesible, debería haber una mayor transparencia sobre cómo la inteligencia artificial utiliza los datos personales. Como discutieron los participantes en la sala, esto ayudaría a cerrar la brecha de entendimiento sobre dichos temas, facilitando que los ciudadanos señalen los casos en los que se usó la IA y el tipo de datos que se usaron.
10.- Ética práctica de la IA
Está claro que hay múltiples partes involucradas tanto en el desarrollo como en la implementación de la IA. El discurso de ambos países es similar: es necesario que haya más conversaciones entre los sectores público y privado, pero también con los ciudadanos. Excluir a los ciudadanos de estas conversaciones en el desarrollo de marcos de prácticas éticas de IA sería perjudicial para garantizar la seguridad y la inclusión públicas.
Dicho esto, esta no es una preocupación exclusiva de un país, y tanto Canadá como España requieren un discurso más transparente e inter-sectorial para implementar de manera efectiva los marcos de ética de la IA.
Durante este evento, quedó claro que existen estrategias similares y acciones futuras, ya que ambos países tienen un objetivo similar de crear un entorno propicio para diseñar, desarrollar y desplegar IA ética. A pesar de las similitudes, el contexto político y legal de ambos países es diferente, así como el desarrollo de estrategias y marcos para participar en esta conversación.
En lo referente al evento, lo cierto es que las diferencias de cultura e idioma dieron lugar a una conversación muy interesante. La primera de varias. Hasta la próxima.
