El Experto en CX Bruce Temkin escribió recientemente un artículo en su perfil de LinkedIn, donde habló de la importancia de la IA basada en valores o VDAI ¿Qué es y cómo programar la IA a través de valores éticos? Acá te contamos:
La Inteligencia Artificial (IA) puede mejorar la humanidad; y también puede destruirla. Todo se reduce a una cosa: los valores.
Los valores antes que la ética
La gente está empezando a hablar del término «IA ética», señalando correctamente que necesitamos tener algunos controles sobre cómo usamos y desplegamos la IA. Pero estas discusiones a menudo pasan por alto un punto clave: la ética es subjetiva. Existen para reforzar un conjunto de valores, y esos valores pueden variar mucho de una persona a otra.
Por supuesto, todo el mundo tiende a creer que sólo hay una norma ética, ya que limitan su pensamiento a sus propios valores. Para demostrarlo, hablaré de un tema muy controvertido: el aborto.
Un proabortista puede considerar éticamente incorrecta la decisión de una mujer de abortar, mientras que un proabortista (yo soy uno de ellos) puede considerarla éticamente correcta. Ambos son éticamente correctos, ya que son coherentes con sus valores. Sus diferencias no son éticas, sino de valores. Un grupo valora una interpretación estricta de las transcripciones religiosas, mientras que el otro valora el derecho del individuo a tomar decisiones sobre su propio cuerpo.
Como puede ver, alinear valores puede ser muy difícil. Pero nunca podremos ponernos de acuerdo sobre ética hasta que expongamos y debatamos nuestros valores. Salgamos ahora de la discusión sobre el aborto (probablemente no lo suficientemente pronto), y volvamos a mi discusión sobre la IA.
Introducción a la VDAI o IA basada en valores
Si queremos que la IA funcione de forma coherente con nuestros valores, tenemos que adoptar prácticas explícitas para que así sea. Por eso estoy introduciendo un nuevo enfoque llamado «IA basada en valores» (VDAI), que se define como:
Aplicar la IA de forma ética basándose en un conjunto de valores claramente definidos.
VDAI consta de cuatro pasos:
- Aclarar valores: Sé explícito sobre lo que es más importante para tu organización.
- Fomentar los valores: Enseña a los modelos analíticos cómo operar de acuerdo con esos valores.
- Compartir valores. Comparte tus valores con todas las personas afectadas por la IA.
- Mantener los valores: Valida y actualiza continuamente tus valores.
Aclarar los valores
Durante la mayor parte de nuestras vidas, funcionamos con un conjunto implícito de valores que vamos acumulando con el tiempo. La mayoría de las personas con las que trabajamos han crecido en entornos similares, por lo que naturalmente comparten muchos de los mismos valores. Pero la IA no «crece» de la misma manera, ya que no tiene acceso a las sutiles pistas sobre el bien y el mal que los seres humanos experimentan durante sus primeros años de vida. Al carecer de esta base, la IA buscará pistas sobre el bien y el mal en el comportamiento de las personas. Pero, como todos sabemos, los seres humanos a menudo toman decisiones y actúan de forma incoherente con sus valores.
Para dirigir la IA en una dirección que consideremos ética, tenemos que ser explícitos sobre nuestros valores. He aquí algunos pasos para aclarar cuáles son tus valores.
- Elabora entre 10 y 15 pautas que reflejen los valores de la organización.
- Prioriza tus declaraciones de valores
- Alinea a toda la organización en torno a la lista de valores.
Fomentar los valores
Tenemos que ayudar a la IA a entender cuáles son los valores y a comportarse de forma coherente con ellos. No se trata de un esfuerzo puntual, sino más bien del proceso continuo de educar a un niño.
La IA es como un bebé, ansiosa por aprender lo que el mundo le enseña. Y al igual que con un niño, no podemos controlar totalmente lo que la IA aprende, por lo que necesitamos inculcarle un fuerte sentido de los valores para guiar su aprendizaje y sus acciones.
Pongamos un ejemplo sencillo: delegamos en la IA la selección de ejecutivos y le pedimos que busque a los mejores candidatos para un nuevo puesto de vicepresidente senior. Si sólo busca a los candidatos con más probabilidades de éxito, es posible que busque a un hombre blanco de mediana edad, ya que ese parece ser el perfil más predominante entre los altos ejecutivos de la empresa. Ese es uno de los defectos de los modelos genéricos de IA: tienden a reforzar prejuicios arraigados.
Piensa en un mundo en el que todas nuestras peores tendencias están automatizadas y replicadas, y cualquier mala acción puede amplificarse a un ritmo rápido. Bastante desagradable. Ya lo estamos viendo en las redes sociales, donde se utiliza la IA para ofrecer a la gente contenidos que les mantengan enganchados, a menudo sin tener en cuenta la calidad o la exactitud de la información.
- Para fomentar nuestros valores dentro de nuestra IA, necesitamos:
- Explicar nuestros valores a la IA compartiendo ejemplos de qué comportamientos son coherentes e incoherentes con esos valores.
- Afinar los modelos para que apliquen correctamente nuestros valores proporcionando a la IA información sobre cómo sus acciones son coherentes o incoherentes con nuestros valores.
Compartir valores
Si tuviera que elegir una recomendación para cualquier situación, sería «ser transparente». Muchos de los problemas del mundo se derivan de la falta de transparencia o mejorarían drásticamente con una mayor transparencia. La IA no es diferente, e incluso puede ser una de las áreas más importantes para la transparencia. ¿Por qué? Porque la IA es un agujero negro. La mayoría de la gente no tiene ni idea de cómo funciona.
Aunque no es factible explicar a la mayoría de la gente cómo funciona la IA, es importante que entiendan los parámetros que impulsan sus acciones; sus valores. Esto proporciona a las personas la información que necesitan para decidir si interactúan con un sistema impulsado por IA y cómo hacerlo, y hará que se sientan más cómodas con cualquiera de sus interacciones.
Las personas que utilizan una aplicación impulsada por la IA o que se ven afectadas por las decisiones que toma la IA deben tener fácil acceso a la información sobre los valores que utiliza la IA para dar forma a sus acciones.
Para garantizar la transparencia, facilite el descubrimiento a todas las partes interesadas:
- Valores que impulsan la IA
- Fuentes de datos que la IA utiliza para aprender
- Gama de acciones que la IA está automatizando
- Controles establecidos para mantener la ética de la IA.
- Proceso para informar de posibles desajustes de valores
Mantenimiento de valores
Mientras que los valores de un individuo son relativamente estables a lo largo del tiempo, los valores rectores de una IA deben reevaluarse constantemente. ¿Por qué? En primer lugar, al ser una práctica totalmente nueva, sin duda habrá formas de mejorar la manera de describir los valores de la organización. Además, las empresas cambian con el tiempo, por lo que es importante asegurarse que los valores que se utilizan reflejan realmente el estado actual de la organización.
He aquí algunas formas de garantizar que los valores permanecen alineados con los valores reales de la organización, es fundamental realizar una revisión anual de sus esfuerzos de IA en la que:
- Revisa tus valores organizativos
- Actualiza los valores de la organización y reafirma el apoyo a los mismos.
- Identifica formas de enseñar mejor a tus modelos de IA para que demuestren tus valores.
Es hora de establecer la gobernanza de la IA
No he presentado la VDAI como un plan exacto, sino como un modelo para estimular debates críticos. La inteligencia artificial es una capacidad emergente lo suficientemente importante como para que las organizaciones necesiten planificarla de forma proactiva antes de que se generalice su uso de forma incontrolada.
Toda gran organización necesita establecer algún tipo de modelo de gobernanza de la IA con algunos recursos y un ejecutivo que supervise el esfuerzo. Este equipo necesita explorar y establecer directrices en torno a muchas áreas diferentes, tales como:
- IA basada en valores
- Oportunidades de alto valor para el despliegue de la IA
- Privacidad
- Nuevas competencias y funciones necesarias para el despliegue de la inteligencia artificial.
- Futuro de las funciones de los empleados, una vez desplegada la IA
- Y, por supuesto, ¡la gestión de la experiencia!
- En resumen: La IA se convertirá en lo que nosotros le enseñemos a ser, así que tenemos que ser buenos guardianes.
0 comentarios