Audrey Azoulay: Aprovechar al máximo la inteligencia artificial

https://eduteka.net/articulos/unesco-inteligencia-artificial-y-educacion

array(2) { [0]=> string(518) " " [1]=> string(20427) "

Jasmina Šopova [JS]: ¿Por qué la UNESCO se interesa en la IA?

AUDREY AZOULAY [AA]: Los expertos coinciden: la humanidad está en el umbral de una nueva era. La inteligencia artificial (IA) transformará nuestra existencia de un modo tal que ni alcanzamos a imaginar. Esta transformación ya comenzó y afecta todos los aspectos de nuestra vida. La IA tiene muchas aplicaciones en áreas tan variadas como la salud, la educación, la cultura, la seguridad, la defensa, etc. La investigación cobró un fuerte impulso en estos últimos años: los gigantes de la web (GAFAM), pero también muchos países, realizan ahora importantes inversiones en IA y se convierten en actores de esta “cuarta revolución industrial”.

La UNESCO tiene un importante papel que desempeñar en estos cambios. En primer lugar, porque las aplicaciones de la IA afectan directamente a sus ámbitos de competencia. La IA transformará profundamente la educación.

Se van a revolucionar los métodos de enseñanza, las formas de aprender, de acceder al conocimiento, de capacitar a los docentes. Las competencias que habrá que desarrollar para evolucionar en un mundo cada vez más automatizado será un tema que adquirirá cada vez mayor importancia.

La IA se emplea ya con frecuencia en el ámbito de la cultura, por ejemplo, en las imágenes 3D utilizadas para la reconstrucción del patrimonio, como vamos a hacer nosotros para la ciudad vieja de Mosul en Irak. En las ciencias también, especialmente en nuestros programas medioambientales y en la investigación subacuática, por ejemplo, para la clasificación de las imágenes de plancton o la detección y la identificación automáticas de cetáceos y aves marinas.

Desde luego, la comunicación y la información también dependen directamente de los avances realizados en materia de IA. La UNESCO debe abordar esta reflexión sobre los beneficios y los riesgos de la IA para la educación, la cultura, la ciencia, la comunicación y la información.

[JS]: ¿Cuáles son los riesgos según usted?

[AA]: En general, la IA puede ser una fantástica oportunidad para lograr los objetivos fijados por la Agenda 2030, pero ello supone tratar sin más demora las cuestiones éticas que plantea. Una oportunidad, ya que sus aplicaciones pueden ayudarnos a avanzar con más rapidez hacia el logro de los Objetivos de Desarrollo Sostenible, permitiendo una mejor evaluación de los riesgos y una mejor previsión, así como una divulgación más rápida de los conocimientos; ofreciendo soluciones innovadoras en materia de educación, salud, ecología, urbanismo e industrias creativas; y mejorando el nivel de vida y el bienestar diario.

Pero también constituye una amenaza, ya que la automatización y la digitalización crean nuevos desequilibrios, pueden reducir la diversidad en las industrias culturales, transforman el mercado de trabajo, generan precariedad y aumentan las desigualdades entre los que tienen acceso a estas nuevas tecnologías y los que no. Aquí también la UNESCO tiene un importante papel que desempeñar: procurando reducir, a través del apoyo que brinda a sus Estados miembros, las desigualdades en el acceso al conocimiento y a la investigación. La fractura tecnológica puede tener un efecto multiplicador en las desigualdades sociales. La UNESCO debe estar en condiciones de ayudar a sus Estados miembros a adaptarse a las nuevas realidades y a que accedan al conocimiento tecnológico.

[JS]: ¿Cómo puede la UNESCO brindar concretamente este apoyo?

[AA]: Uno de los desafíos, para los Estados miembros, es poder contar con materiales de ingeniería sofisticados, a la vanguardia de la innovación, así como con recursos humanos adecuados – científicos e ingenieros. Gracias a sus Centros de Educación y Formación en Ciencia, Tecnología e Innovación (CTI), su Observatorio Mundial de Instrumentos de Política en Ciencia, Tecnología e Innovación (GO-SPIN) o incluso su Programa Internacional de Ciencias Fundamentales (PICF), la UNESCO está en condiciones de brindar ese apoyo y de ayudar a reducir las desigualdades entre los países.

[JS]: ¿Cuáles son los desafíos que plantea la IA en materia de educación? ¿Cómo pretende la UNESCO enfrentarlos?

[AA]: Se trata, obviamente, de un ámbito esencial para la Organización. También en este caso, la revolución que está en marcha genera efectos tanto positivos como negativos. Se están utilizando ya aplicaciones pedagógicas basadas en la IA para descentralizar la enseñanza, personalizarla, asesorar a los estudiantes sobre los planes de estudios o incluso sobre las certificaciones.

Pero estas tecnologías son costosas y, por lo tanto, inaccesibles para la mayoría: la brecha entre ricos y pobres puede hacerse aún más profunda.

Debido a la función de coordinación del Comité Directivo ODS – Educación 2030, encargado de realizar el seguimiento hacia el logro del Objectivo de Desarrollo Sostenible 4, dedicado a la educación, la UNESCO está en una posición excelente para llevar a cabo este trabajo, identificando las posibles contribuciones de la IA a una educación inclusiva y evaluando su impacto en el futuro del aprendizaje.

La promoción de herramientas de IA de libre acceso, que impulsen las innovaciones locales, será una de nuestras prioridades.

A fin de preparar a las futuras generaciones para el nuevo panorama de trabajo que la IA está creando, también será necesario reconsiderar los programas educativos, haciendo énfasis en la enseñanza de las ciencias, la tecnología, la ingeniería y las matemáticas, pero también dando prioridad a las humanidades y a las competencias en materia de filosofía y ética.

[JS]: ¿Cuál es la relación entre la IA y la filosofía o la ética?

[AA]: En su vida de adultos, los escolares y estudiantes de hoy en día deberán afrontar sin duda problemas cuya naturaleza desconocemos en el momento actual. Es difícil prever todas las evaluaciones posibles de estas máquinas cada vez más sofisticadas que cada día adquieren mayor autonomía, hasta el punto de desafiar ya, en cierta medida, la identidad humana. Es por esta razón que las competencias en materia de ética, pero también en ciencias sociales y humanas en general, serán tan importantes como las competencias en ciencias formales. También puede haber prejuicios incorporados en los sistemas de IA –en especial prejuicios de género– que requieran mayor transparencia de parte de esos sistemas y principios éticos sólidos para corregirlas.

[JS]: ¿Por qué es difícil prever la evolución futura de la IA?

[AA]: La investigación en materia de IA avanza a gran velocidad, mientras que los contextos jurídicos, sociales y éticos en los que debería enmarcarse evolucionan muy lentamente. ¿Hasta dónde puede llegar la autonomía de una máquina y su poder de decisión? En caso de accidente, ¿en quién recae la responsabilidad? ¿Y quién decide sobre los valores inculcados a las máquinas durante lo que se denomina su “aprendizaje”? Éstas y muchas otras preguntas permanecen aún sin respuesta.

Se ha observado, por ejemplo, que algunos algoritmos formados en el lenguaje humano corriente habían adquirido prejuicios basados en estereotipos a partir de datos textuales presentes en nuestra cultura diaria. ¿Cómo no preocuparse ante el peligro de ver aparecer máquinas con conductas discriminatorias, racistas u hostiles?

Hay motivos para preocuparse también por muchos otros aspectos: protección de la vida privada y publicidad personalizada en Internet; libertad de expresión y algoritmos de censura; periodismo automatizado y monopolio de la información, etc.

Si bien la investigación fundamental en la materia está, en general, motivada por el bienestar, siempre es posible que existan desviaciones involuntarias, pero también voluntarias. Por este motivo, es indispensable asegurarse de que esta tecnología se desarrolla siguiendo normas éticas rigurosamente establecidas.

[JS]: ¿Qué puede hacer la UNESCO en este sentido?

[AA]: Si queremos aprovechar al máximo las posibilidades que ofrece la IA para el mundo entero, debemos asegurarnos de que esté al servicio de la humanidad, respetando la dignidad y los derechos humanos.

Ahora bien, no existe en la actualidad ningún marco ético internacional que se aplique a todos los avances y las aplicaciones de la IA.

La UNESCO es este foro universal único que cuenta con una experiencia de más de veinte años en la elaboración de instrumentos internacionales relativos a la bioética y a la ética de las ciencias y la tecnología [1]. Esta organización también cuenta con el apoyo de dos órganos consultivos de expertos que trabajan activamente en estas cuestiones: la Comisión Mundial de Ética del Conocimiento Científico y la Tecnología (COMEST) y el Comité Internacional de Bioética (CIB).

Es nuestra responsabilidad llevar a cabo un debate universal e informado –no un debate técnico, sino ético– a fin de entrar en esta nueva era con los ojos bien abiertos, sin sacrificar nuestros propios valores y poder lograr, si los Estados miembros lo desean, un conjunto común de principios éticos.

Robots y ética
Informe 2017 de la COMEST

La robótica actual, denominada cognitiva, se basa cada vez más en tecnologías de inteligencia artificial (IA) dotadas de capacidades de tipo humano, tales como la percepción, el uso del lenguaje, la interacción, la resolución de problemas, el aprendizaje e incluso la creatividad. Sus decisiones son impredecibles y sus acciones dependen de la experiencia y de algunas situaciones estocásticas (aleatorias). Estos robots son muy diferentes de los robots denominados deterministas, cuyo comportamiento depende del programa que controla sus acciones. Por lo tanto, la cuestión de la responsabilidad de las acciones ejecutadas por robots cognitivos es crucial, sobre todo porque esas acciones repercuten en el comportamiento humano, provocan cambios sociales y culturales y plantean problemas en materia de seguridad, de respeto de la vida privada y de protección de la dignidad humana.

En su Informe sobre la ética de la robótica, publicado en noviembre de 2017, la Comisión Mundial de Ética del Conocimiento Científico y de la Tecnología de la UNESCO (COMEST) propone un marco ético basado en la tecnología, con el fin de formular recomendaciones sobre la ética de la robótica basadas en la distinción entre robots deterministas y robots cognitivos.

El informe resalta también valores y principios éticos que pueden contribuir a establecer una reglamentación a todos los niveles y de forma coherente, que va desde códigos de conducta para ingenieros hasta legislaciones nacionales y convenios internacionales. Los valores y principios éticos puestos de relieve son la dignidad humana, la autonomía, el respeto de la vida privada, la seguridad, la responsabilidad, la beneficencia y la justicia. El principio de la responsabilidad humana es el hilo conductor que conecta los diferentes valores examinados en este informe.

La COMEST formula también una serie de recomendaciones específicas relacionadas con la aplicación de tecnologías robóticas, que van desde la elaboración de códigos de ética para especialistas en robótica hasta advertencias contra el desarrollo y el uso de armas autónomas.

¿A quién le corresponde tomar la decisión?
Decisiones humanas: reflexiones sobre la IA, 2018

Con el fenómeno de los macrodatos (big data) y la transición de los mecanismos de aprendizaje profundo, la inteligencia artificial (IA) se ha convertido en una de las tendencias tecnológicas más debatidas del momento, debido a sus repercusiones en los individuos y en las culturas.

Los aspectos tecnológicos de la IA son fascinantes, pero algunos temen que termine por eclipsar la inteligencia humana. Aún si aceptamos la idea de que pueda contribuir al progreso de la humanidad, debemos anticiparnos a los peligros de una IA fuera de control y tomar conciencia de sus implicaciones éticas.

Netexplo, un observatorio independiente que trabaja en asociación con la UNESCO, estudia con detenimiento este tema tan amplio, que interesa tanto a la filosofía como a las matemáticas, las ciencias, la informática y la ingeniería. En 2015, la UNESCO y Netexplo crearon un consejo consultivo común, la UNAB. Esta red de profesores, conferenciantes e investigadores procedentes de las principales universidades del mundo tiene como misión analizar las tendencias de la tecnología digital y en particular la IA.

En 2018, la UNAB publicó Human Decisions: Thoughts on AI (Decisiones humanas: reflexiones sobre la IA), una compilación de análisis que tiene como objetivo estimular la reflexión sobre los desafíos más cruciales en materia de IA y comprender la clave de su funcionamiento.

¿Confían deliberadamente los humanos a la IA sus poderes decisorios? ¿Sustituye la IA a los humanos? ¿Cuáles son las posibles medidas de protección contra el uso indebido de la IA? Estas son algunas de las cuestiones que se tratan en esta publicación, además de las opiniones formuladas por Netexplo, en las cuales se comparan diferentes escenarios.

Más allá de estos puntos de vista, hay una pregunta que siempre se repite: la de la toma de decisiones. ¿Renunciamos ya a la potestad de controlar las máquinas? ¿Y si la IA terminara por controlar el comportamiento de los humanos sin su participación? En ese caso, ¿quién (o qué) participará en la toma de decisiones?

Si bien algunos expertos temen que la influencia de la IA pueda conducirnos a un sistema interconectado en el que nuestra propia inteligencia esté subordinada a la de las máquinas, otros siguen convencidos de que nuestros conocimientos informáticos actuales son aún demasiado limitados como para justificar este temor a lo desconocido. Según ellos, no se trata de una cuestión de competencia, sino de cooperación entre la IA y el género humano.

NOTAS:
[1] Declaración Universal sobre el Genoma Humano y los Derechos Humanos (1997); Declaración Internacional sobre datos Genéticos Humanos (2003); Declaración Universal sobre Bioética y Derechos Humanos (2005); Declaración de Principios Éticos en relación con el Cambio Climático (2017); Recomendación sobre la Ciencia y los Investigadores Científicos (2017).

CRÉDITOS:
Reproducción de la entrevista a Audrey Azoulay “Aprovechar al máximo la inteligencia artificial”, realizada por Jasmina Šopova y publicada en la revista El Correo de la UNESCO • julio-septiembre de 2018.
El Correo de la UNESCO es una publicación trimestral de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura. Promueve los ideales de la Organización, difundiendo intercambios de ideas sobre temas de alcance internacional relacionados con su mandato. Esta publicación está disponible en acceso abierto bajo la licencia Attribution-ShareAlike 3.0 IGO (CC-BY-SA 3.0 IGO) (http://creativecommons.org/licenses/by-sa/3.0/igo/). Al utilizar el contenido de la presente publicación, los usuarios aceptan las condiciones de utilización del Repositorio UNESCO de acceso abierto (https://es.unesco.org/open-access/terms-use-ccbysa-sp). Esta licencia se aplica exclusivamente al texto de la presente publicación. Para utilizar cualquier material que aparezca en ella y que no pertenezca a la UNESCO, será necesario pedir autorización previa.

Publicación de este documento en EDUTEKA: Octubre 18 de 2021.
Última actualización de este documento: Octubre 18 de 2021.

" }