Dos compañeros de oficina hacen exactamente el mismo trabajo, pero uno cobra más que el otro. La desigualdad es conocida entre las personas, y ahora ha llegado también a la inteligencia artificial (IA): un experimento en realidad virtual ha comprobado que un asistente de IA con apariencia femenina cobró un 10,25 % menos que otro con apariencia masculina, a pesar de que ambos utilizaban la misma tecnología.

Sumario

 

Así lo desvela un estudio(1) de la Universidad de Limerick, la Universidad de Zúrich y la SKEMA Business School, que se presentará del 5 al 7 de octubre en Finlandia. Los investigadores han examinado si la forma de presentar a los asistentes de IA influye en cómo los tratan las personas en el trabajo, y concluyen que los prejuicios de género de las oficinas podrían replicarse con las máquinas.

 

Johanna cobra menos que Johan

Para comprobarlo, los investigadores colocaron a 189 trabajadores en una oficina de realidad virtual, un entorno simulado por ordenador. Allí les pidieron que completaran tareas relacionadas con el trabajo con distintos asistentes de IA, entre ellos agentes con apariencia humana presentados con rasgos masculinos o femeninos.

A Johanna se le pagó un 10,25 % menos que a Johan por realizar el mismo trabajo, a pesar de utilizar la misma tecnología subyacente

A Johanna se le pagó un 10,25 % menos que a Johan por realizar el mismo trabajo, a pesar de utilizar la misma tecnología subyacente. Johan era el agente de IA con apariencia masculina; Johanna, el de apariencia femenina. Los dos tenían las mismas capacidades, pero los participantes los trataron de manera diferente según cómo se les presentara.

Cuando terminaron las tareas, se entregó a los participantes dinero real para que lo repartieran entre ellos y el asistente de IA como pago por el trabajo completado. Con este método, los investigadores pudieron recrear una transacción del mundo real y medir cuánto estaban dispuestas a pagar las personas a la IA por su labor.

Johan, además de recibir mayores recompensas monetarias, fue percibido como más parecido a un ser humano que Johanna. La tecnología de ambos agentes era la misma, de modo que la diferencia no puede atribuirse a lo que cada uno sabía hacer.

“Lo que resulta sorprendente de nuestros hallazgos es que la tecnología detrás de estos agentes de IA era exactamente la misma, pero la gente no los trataba de la misma manera”, ha afirmado Hausfeld. La investigadora ha señalado que los resultados plantean interrogantes importantes, ya que los agentes de IA se integran cada vez más en la vida laboral de las personas.

Los resultados sugieren que los sesgos de género habituales en los entornos laborales humanos podrían reproducirse en las interacciones con la inteligencia artificial, incluso cuando no existe ninguna diferencia en la tecnología. Dicho de otro modo, la desigualdad no depende de lo que la máquina sabe hacer, sino de la imagen con la que se presenta.

 

Dicen una cosa, hacen otra

El hallazgo sobre el género formaba parte de una investigación más amplia sobre cómo la apariencia humana de la IA influye en las interacciones en el lugar de trabajo. Para ello, los participantes trabajaron con tres tipos de ayudante: un chatbot basado en texto –un programa con el que se conversa por escrito–, un robot de escritorio y los agentes de IA con apariencia humana.

Los participantes confiaron más en los asistentes con apariencia humana y les otorgaron mayor reconocimiento por su contribución que al robot

Los participantes confiaron más en los asistentes con apariencia humana y les otorgaron mayor reconocimiento por su contribución que al robot, aunque los sistemas utilizaban la misma IA subyacente. Es decir, la apariencia influyó en la confianza que la gente depositó en el trabajo de la máquina.

Los investigadores también descubrieron una brecha significativa entre lo que los participantes dijeron que les influía y cómo se comportaron realmente. Muchos afirmaron preferir una IA claramente no humana, y la mayoría indicó que el género del asistente les resultaba indiferente.

Sin embargo, sus evaluaciones posteriores y las decisiones de recompensa demostraron que estas características de diseño aún podían influir en su comportamiento. Los participantes también indicaron que no tenían preferencia por una IA con atributos femeninos o masculinos, pero su comportamiento contó una historia diferente.

En otras palabras, lo que los participantes decían sobre sus preferencias y lo que hacían con el dinero real no coincidía. Las respuestas sobre el género del asistente apuntaban a la indiferencia; el reparto del dinero, no.

 

Diseño que condiciona la confianza

Los resultados ponen de relieve un desafío emergente para las organizaciones. La IA está pasando de ser una herramienta utilizada por los empleados a convertirse en agentes de IA cada vez más parecidos a los humanos, capaces de actuar como compañeros de trabajo y colaboradores.

A menudo pensamos en la IA como algo neutral, pero la forma en que diseñamos y presentamos estos sistemas puede activar las mismas suposiciones y prejuicios

MARY HAUSFELD, Universidad de Limerick

“A menudo pensamos en la IA como algo neutral, pero la forma en que diseñamos y presentamos estos sistemas puede activar las mismas suposiciones y prejuicios que existen en nuestras interacciones con otras personas”, sostiene Mary Hausfeld, de la Universidad de Limerick. Según la autora, el modo de crear y mostrar una IA puede despertar en las personas los mismos prejuicios que ya aplican a otras personas.

Hausfeld añade que, a medida que los agentes de IA se vuelven más comunes en el ámbito laboral, hay que reflexionar detenidamente sobre las características que se les atribuyen y los comportamientos que esas decisiones pueden fomentar. El objetivo, según plantea, es no reproducir de forma inadvertida las desigualdades existentes en un nuevo entorno tecnológico.

La investigadora argumenta que las decisiones sobre la apariencia y la presentación de los agentes de IA no deben considerarse simplemente decisiones de diseño estético. “Estas decisiones pueden influir en la confianza que la gente deposita en la IA, en cómo valoran su contribución e incluso en cómo la recompensan económicamente”, ha advertido.

El estudio ha sido realizado por Isabelle Cuber y Tarek Alakmeh, de la Universidad de Zúrich; Mary Hausfeld, de la Universidad de Limerick; Anand van Zelderen, de la SKEMA Business School, y Moritz Jenny, Jochen Menges y Thomas Fritz, de la Universidad de Zúrich. Cuenta con la financiación de la Iniciativa de la Sociedad Digital de la Universidad de Zúrich.

El trabajo, titulado ¿Aspecto humano y masculino? Cómo el diseño de asistentes de IA se relaciona con la confianza y la recompensa monetaria en el trabajo en realidad virtual, se presentará en la 14.ª Conferencia Nórdica sobre Interacción Humano-Computadora (NordiCHI ’26), que se celebra en Vaasa (Finlandia). Después se publicará en las actas de la conferencia de la Association for Computing Machinery.

 

Referencias

Añadir EcoAvant.com como fuente preferida de Google de forma gratuita.

Activar ahora