Alfabetización digital sobre la Inteligencia Artificial

Consideraciones éticas

El uso de la inteligencia artificial promete mejorar la eficiencia de los servicios gubernamentales, pero también existen riesgos. Al adoptar nuevas tecnologías, se trata de encontrar un balance entre su aplicación y la innovación dentro de un marco ético enfocado en los derechos humanos. Tengamos en cuenta que los valores para una conducta ética varían de acuerdo con la cultura y región.

Ya podemos encontrar documentos con lineamientos y principios; por ejemplo, Algorithm Watch reúne guías sobre el impacto ético de la IA elaboradas por instituciones, empresas y gobiernos. Muchas se centran en: inclusión, desarrollo sostenible, valores centrados en el humano, transparencia, seguridad y responsabilidad. En esta oportunidad, nos enfocaremos en Canadá, la OCDE y la Comunidad Europea.

Principios éticos

Principios rectores de Canadá

Desde el gobierno de Canadá se plantearon los siguientes principios rectores para garantizar el uso efectivo y ético de la IA en sus servicios(⁵):

Comprender y medir el impacto del uso de la IA mediante el desarrollo e intercambio de herramientas y enfoques.
Ser transparentes sobre cómo y cuándo se usa la IA, comenzando con una clara necesidad del usuario y un beneficio público.
Proporcionar explicaciones significativas sobre la toma de decisiones de IA, ofrecer oportunidades para revisar los resultados y cuestionar estas decisiones.
Ser abiertos al compartir el código fuente, los datos de capacitación y otra información relevante. Al mismo tiempo, proteger la información personal, la integración del sistema y la seguridad y defensa nacional.
Proporcionar capacitación para que los funcionarios públicos, que desarrollan y utilizan soluciones de IA, tengan las habilidades de diseño, función e implementación responsables necesarias para mejorar dichos servicios.

Medidas recomendadas por la OCDE

En el 2019, el Perú se sumó a los principios intergubernamentales sugeridos por la OCDE(⁶):

Invertir en la investigación y desarrollo de la IA.
Promover un ecosistema digital para la IA.
Definir y habilitar un ambiente de políticas para la IA.
Construir la capacidad humana y preparación de la transformación del mercado laboral.
Realizar una cooperación internacional para una IA confiable.

Adicionalmente, se busca adecuar estas medidas a la realidad peruana e iniciar su implementación, priorizando la investigación y el desarrollo para una IA fiable y accesible.

Directrices éticas de la Comunidad Europea

En el 2019, la Comunidad Europea publicó las Directrices Éticas para una IA Fiable que brindan orientación sobre cómo diseñar e implementar sistemas de IA basadas en los derechos humanos fundamentales.

Según las Directrices, una IA fiable debe contar con tres componentes:

Lícita: la IA debe cumplir con todas las leyes y reglamentos aplicables.
Ética: la IA debe apegarse a los principios y valores éticos.
Robusta: la IA debe evitar el daño no intencional desde una perspectiva tanto técnica como social.

Principios éticos e imperativos identificados por las Directrices

1. Respeto de la autonomía humana Los humanos que interactúan con los sistemas de IA deben ser capaces de mantener una autonomía plena y efectiva sobre sí mismos.

2. Prevención del daño Los sistemas de IA no deberían causar o exacerbar daños ni perjudicar a los seres humanos de ninguna manera. Los sistemas de IA y sus entornos deben ser seguros y estar protegidos.

3. Equidad El desarrollo, despliegue y uso de los sistemas de IA deben ser justos. Esto implica:

Garantizar una distribución equitativa y justa de los beneficios y costos.
Garantizar que los individuos y grupos estén libres de prejuicios, discriminación y estigmatización.
Fomentar la igualdad de oportunidades, ya sea acceso a la educación, los bienes, los servicios y la tecnología.

La equidad también significa la posibilidad de apelar las decisiones tomadas por los sistemas de IA y las personas que los operan.

4. Explicabilidad Los procesos deben ser transparentes, las capacidades y el propósito de los sistemas de IA deben comunicarse abiertamente, y las decisiones resultantes deben explicarse a los afectados, en la medida de lo posible(⁷).

Desafíos éticos

Conscientemente o no, las personas pueden sesgar o discriminar a otras. Esto también se ve reflejado en la información generada y usada para entrenar los algoritmos de inteligencia artificial. Por lo tanto, la IA puede escalar este tema en el entorno digital. Las personas que trabajan con esta herramienta deben ser conscientes de ello para evaluar y analizar mejor las aplicaciones que puedan afectar a ciertas comunidades y acentuar brechas.

Algunos ejemplos de discriminación se enfocan en “premios” (oportunidades de estudio o de trabajo) y “castigos” (la automatización de una sentencia y el uso de sistemas de vigilancia para el reconocimiento automático de delincuentes).

En el primer caso, se descubrió que el algoritmo de reclutamiento de Amazon discriminaba los perfiles de mujeres para preferir a los hombres en puestos técnicos. Se debía a que el algoritmo fue entrenado con perfiles de candidatos pasados (la mayoría hombres). En el segundo caso, sirve el ejemplo de COMPAS, una compañía que predecía la probabilidad de que algunos criminales reincidieran en base a un cuestionario. Algunas de estas preguntas se relacionaban al contexto de la persona (¿sus padres estuvieron en prisión alguna vez?, ¿sus amigos consumen drogas ilegalmente?). El resultado fue que los criminales afroamericanos eran más propensos a ser catalogados como reincidentes, aún cuando en el futuro no reincidieran(⁸).

Por ello, es importante que las herramientas que usen IA sean construidas desde la diversidad y la inclusión, con el fin de reducir brechas sociales y atender las necesidades de grupos minoritarios.

⁵Recuperado de Responsible use of artificial intelligence (AI).
⁶ Recuperado de Recommendation of the Council on Artificial Intelligence.
⁷ Hola, mundo: la inteligencia artificial y su uso en el sector público. Pgs. 180-182.
⁸ Inteligencia artificial: desafíos y oportunidades para el Perú. Pg. 37.