¿Qué es el sesgo de inteligencia artificial y cómo eliminarlo?

¿Alguna vez has experimentado prejuicios en tu vida? El sesgo se describe como un prejuicio contra una persona de un grupo extremadamente injusto. Si eres indio, es posible que hayas experimentado prejuicios por ser de piel oscura. Si eres estadounidense, es posible que hayas experimentado prejuicios por ser afroamericano. Y esto sigue…

Desafortunadamente, los humanos están sesgados contra otros humanos por una variedad de razones ilógicas. Esto puede suceder conscientemente cuando los humanos tienen prejuicios hacia las minorías raciales, las religiones, los géneros o las nacionalidades. Por ejemplo, un informe de la ONU encontró que al menos el 90% de los hombres y mujeres en el mundo tenían algún tipo de prejuicio contra las mujeres sin que ningún país del mundo tuviera cero prejuicios de género. Este sesgo también puede ocurrir inconscientemente cuando se desarrolla como resultado de la sociedad, la familia y el condicionamiento social desde el nacimiento. Cualquiera que sea la razón, los sesgos existen en los humanos y ahora también se transmiten a los sistemas de inteligencia artificial creados por humanos. Esto es sesgo de inteligencia artificialpero la verdadera pregunta es «¿Cómo ocurre?» ¿Cómo se transmite el sesgo en humanos a los sistemas de inteligencia artificial incluso cuando se toman medidas para manejarlo? Esta es la pregunta que este artículo pretende responder junto con la comprensión de cómo las diferentes empresas están trabajando para eliminarlo por completo de sus sistemas.

¿Qué es el sesgo de inteligencia artificial?

El sesgo de inteligencia artificial constituye los sesgos humanos acumulativos que se transmiten a los sistemas de inteligencia artificial creados por humanos. Estos sesgos pueden pasar a los sistemas de inteligencia artificial cuando se entrenan con datos que incluyen sesgos humanos, desigualdades históricas o diferentes métricas de juicio basadas en género, raza. nacionalidad, orientación sexual, etc. de los seres humanos.

Por ejemplo, Amazon descubrió que su algoritmo de reclutamiento de IA estaba sesgado contra las mujeres . Esto puede haber ocurrido porque el algoritmo de reclutamiento fue entrenado para analizar el currículum de los candidatos mediante el estudio de la respuesta de Amazon a los currículums que se enviaron en los últimos 10 años. Sin embargo, los reclutadores humanos que analizaron estos currículos en el pasado eran en su mayoría hombres con un sesgo inherente contra las mujeres candidatas que se pasaron al algoritmo de IA. Cuando Amazon estudió el algoritmo, descubrió que deshabilitaba automáticamente los currículos que contenían palabras como «mujeres» y también degradaba automáticamente a los graduados de dos universidades exclusivamente para mujeres. Por lo tanto, Amazon finalmente descartó el algoritmo y no lo usó para evaluar candidatos para el reclutamiento.

Como puede ver en este ejemplo, los sesgos en la Inteligencia Artificial causan mucho daño. Este sesgo perjudica las posibilidades del grupo sesgado de participar plenamente en el mundo y brindar los mismos beneficios a la economía. Significa que el grupo sesgado también puede ser discriminado e incluso perder la capacidad de vivir libremente en sociedad en el peor de los casos. Así lo demostró el algoritmo de inteligencia artificial COMPAS que se utilizó en EE. UU. para predecir qué delincuentes tenían más probabilidades de reincidir en el futuro. Con base en estos pronósticos, los jueces tomarían decisiones sobre el futuro de estos delincuentes que van desde sus sentencias de cárcel hasta los montos de la fianza para su liberación. Sin embargo, se encontró que COMPAS estaba sesgado. Se consideró que los delincuentes negros tenían muchas más probabilidades de volver a cometer delitos en el futuro de lo que cometieron. Por otro lado, los delincuentes blancos fueron juzgados menos riesgosos que COMPAS. Esto significó que una Inteligencia Artificial sesgada hizo que los criminales negros fueran juzgados con mucha más dureza que sus contrapartes blancas en el sistema legal.

Pero este no es el alcance del daño causado por el sesgo de inteligencia artificial. A largo plazo, el sesgo de la inteligencia artificial reduce la confianza humana en la tecnología. Si bien perjudica a los grupos contra los que está sesgado el algoritmo, también perjudica la confianza de los humanos en los algoritmos de inteligencia artificial para trabajar sin prejuicios. Reduce las posibilidades de que la Inteligencia Artificial se utilice en todos los aspectos de los negocios y la industria, ya que esto genera desconfianza y el temor de que la IA discrimine a las personas. Por lo tanto, las industrias técnicas que producen estos algoritmos de inteligencia artificial deben asegurarse de que sus algoritmos estén libres de sesgos antes de lanzarlos al mercado. Las empresas pueden hacer esto fomentando la investigación sobre el sesgo de inteligencia artificial para erradicar el sesgo en el futuro. Y en esa nota,

¿Cómo eliminar el sesgo de inteligencia artificial?

Los sistemas de inteligencia artificial son tan buenos como los datos que se introducen en ellos. Entonces, si los datos están sesgados, obviamente el sistema de IA también estará sesgado. Los datos incorrectos pueden contener sesgos raciales, sexuales, de género o ideológicos, lo que hace que los sistemas de inteligencia artificial entrenados en estos datos también sean problemáticos. Ahora, hay muchos métodos para hacer cumplir la equidad en los datos para que los sistemas de Inteligencia Artificial sean justos.

Un método es preprocesar los datos para que se elimine el sesgo antes de entrenar los sistemas de IA en los datos. Esta es una forma de crear sistemas de IA imparciales entrenándolos con datos imparciales. Otro método es post-procesarel sistema de IA después de haberlo entrenado con los datos. Esto significa alterar algunas de las predicciones del sistema de IA para que satisfaga una constante de equidad arbitraria que se puede decidir de antemano. Sin embargo, ambos métodos incluyen el desarrollo de algoritmos de IA que pueden explicarse fácilmente. Esto es necesario porque los algoritmos de IA normalmente son cajas negras y es muy difícil entender cómo llegaron a sus conclusiones. Por lo tanto, también es difícil entender dónde está el sesgo en el algoritmo de IA. Pero si los algoritmos de IA son fácilmente explicables, entonces se puede encontrar y eliminar el sesgo.

Por ejemplo, IBM Research está trabajando actualmente para eliminar el sesgo de inteligencia artificial. Creen que dentro de cinco años, la cantidad de sesgos de IA solo aumentará en los algoritmos a medida que aumente el uso de IA. Pero están trabajando en nuevas soluciones para controlar este sesgo y crear sistemas de Inteligencia Artificial libres de él. El MIT-IBM Watson AI Lab está utilizando avances recientes en modelado cognitivo computacional e inteligencia artificial para considerar los principios éticos y cómo los humanos los aplican a la toma de decisiones para que puedan incorporar estos principios en máquinas que tienen valores humanos y habilidades éticas para la toma de decisiones. Los científicos de IBM también han creado un sistema de calificación de sesgo independiente que se puede utilizar para determinar la imparcialidad de un sistema de inteligencia artificial.