Por Chris Hyams, CEO global de Indeed
Este artículo apareció originalmente en inglés en Fortune.com, en septiembre de 2023.
Recientemente, en una mesa redonda, alguien preguntó: “¿Estás entusiasmado o preocupado por la IA?” Mi respuesta fue: “Estoy entusiasmado con la IA y profundamente preocupado. Cualquier tecnología que proporcione un poder extraordinario también debe manejarse con extraordinario cuidado. Cuanto más poderosa sea la herramienta, más cuidado se requiere.”
Empezaré con algunas preocupaciones: La primera son los empleos. En Indeed, nuestra misión es ayudar a las personas a conseguir empleo. Pasamos todos los días pensando en el impacto de la tecnología en los medios de vida de las personas. La cuestión de si la tecnología ayudará o perjudicará el empleo se remonta a principios del siglo XIX, cuando los tejedores artesanales de Inglaterra –los luditas– destrozaron las máquinas que amenazaban con reemplazarlos. Es posible que miles de años antes alguien intentara romper una rueda porque su trabajo estaba en riesgo.
Las oleadas de innovación tecnológica (y disrupción) se han acelerado con el tiempo. Si bien los efectos de la Revolución Industrial se aceleraron gradualmente a lo largo de muchas generaciones, las industrias de viajes, comercio minorista y música fueron trastocadas por Internet en una década. Con la IA, es posible que los estudiantes ahora se encuentren aprendiendo en la universidad habilidades que quedarán obsoletas cuando se gradúen.
Me gustaría aprovechar esta oportunidad para hacer una corrección en nombre de todos los tecnólogos. Algunas personas dentro de la industria de la tecnología utilizan la palabra “disrupción” como si fuera puramente positiva. Proponemos nuevas tecnologías para “revolucionar la industria de los viajes” o “revolucionar la industria del transporte”. Si bien los consumidores se benefician de la conveniencia y el costo, y con el tiempo se crean más empleos, la consecuencia inmediata es alterar las vidas de los agentes de viajes y los taxistas.
Por mucho que me preocupen los empleos, tengo una preocupación subyacente aún más profunda por los prejuicios. La IA funciona con datos, los datos provienen de humanos y los humanos tienen fallas. Esto es especialmente cierto en el ámbito laboral: en un conocido estudio de 2003, los nombres que parecían negros recibieron un 50% menos de llamadas para entrevistas que los nombres que parecían blancos con currículums idénticos. Cuando los modelos de IA se construyen a partir de datos con sesgos incorporados, los modelos resultantes replican y amplían ese sesgo.
Un estudio reciente representó gráficamente este fenómeno. Cuando se le pidió a la IA generativa que creara imágenes relacionadas con puestos de trabajo y delitos, ésta amplificó los estereotipos sobre raza y género. Los estadounidenses blancos representan el 70% de los trabajadores de la comida rápida, pero el 70% de los resultados de las imágenes mostraban a trabajadores con tonos de piel más oscuros. Las mujeres representan el 39% de los médicos, pero sólo el 7% de los resultados de imagen. A lo largo del estudio, los roles mejor pagados estuvieron representados principalmente por trabajadores percibidos como hombres y aquellos con piel más clara, mientras que los trabajos peor pagados estuvieron dominados por trabajadoras percibidas y aquellos con piel más oscura. Las imágenes generadas para “recluso”, “narcotraficante” y “terrorista” también amplificaron los estereotipos.
Entonces sí, tengo preocupaciones considerables sobre la IA. Y a pesar de estas preocupaciones, también estoy muy emocionado.
Los avances recientes en IA han sido impresionantes. Tan solo en los últimos años, hemos visto a agricultores usar la IA para combatir plagas y enfermedades y un implante cerebral impulsado por la IA que ayudó a un hombre paralítico a caminar usando sus pensamientos. La herramienta favorita de la IA, Chat GPT, ha establecido nuevos puntos de referencia para las máquinas en hazañas de la supuesta inteligencia humana, obteniendo una puntuación en el percentil ~90 en diversos exámenes, y una puntuación de 4 o 5 en 13 exámenes distintos, e incluso dominar la teoría del sommelier avanzado.
La IA también ayuda a las personas a conseguir empleo. 350 millones de personas que buscan empleo visitan Indeed cada mes, y la IA impulsa sus conexiones simples y rápidas a 30 millones de empleos. Gracias a la IA, cada tres segundos contratan a alguien en Indeed.
A pesar de la asombrosa innovación que nos rodea, la IA todavía está en la infancia. Si esperamos seguir beneficiándonos de la promesa de la IA, debemos dedicar mucho tiempo y energía a abordar los riesgos.
El primer paso es admitir que tenemos un problema. Los prejuicios, la toxicidad y el odio se mezclan con señales útiles que permiten a la IA resolver problemas significativos. En respuesta, hemos establecido un equipo de IA responsable dedicado a crear un producto justo para quienes buscan empleo y empleadores midiendo y mitigando sesgos injustos en nuestros productos algorítmicos. Los miembros del equipo van desde astrofísicos hasta sociólogos, y su enfoque combina evaluaciones de equidad, creación de herramientas, educación y divulgación. Creemos que la equidad algorítmica no es un problema puramente técnico con soluciones puramente técnicas. Nuestro trabajo trata la equidad como una cuestión sociotécnica, integrada tanto en la tecnología como en los sistemas sociales que interactúan con ella.
A principios de este año, tuve la oportunidad de hablar con el historiador Dr. Ibram X Kendi, quien planteó esta cuestión con sorprendente claridad: “Veo el mayor peligro como la suposición de que la IA es en realidad artificial, que los humanos no crearon la IA y que los humanos no han incorporado sus propias ideas racistas, sexistas y etnocéntricas en la IA que crean. Si nosotros, como seres humanos, decimos que la inteligencia artificial es fundamentalmente artificial, entonces se convertirá en una nueva forma defendible de excluir a las personas por motivos de raza”.
Para construir sistemas de IA verdaderamente responsables, necesitamos cambiar fundamentalmente la forma en que los construimos. Para empezar, debemos preparar a la generación actual y a la próxima de trabajadores tecnológicos para las profundas implicaciones de la tecnología y su impacto en la vida de las personas. Además de estadística y álgebra lineal, se debería exigir a los tecnólogos que estudien historia, filosofía, ética y literatura. Un código de ética formal para los profesionales de la IA, como una adaptación del juramento Hipocrático del médico, sería un punto de partida importante.
Es fundamental que cambiemos quién construye estos sistemas. Todos los días, las personas toman decisiones vitales en salas con poca o ninguna representación de grupos marginados, aquellos que tienen más probabilidades de verse afectados negativamente por esas decisiones. Las mujeres representan aproximadamente el 20% de los doctorados recientes en Ciencias de la Computación, y apenas el 6% de personas con doctorados son de raza negra o latina. Digo esto como hombre blanco, heterosexual y cisgénero: las personas como yo no deberían estar solas al tomar decisiones que afectan a millones de personas. La representación por sí sola no resolverá los desafíos fundamentales que enfrenta la IA, pero creo que no superaremos esos desafíos si los grupos marginados no tienen un lugar equitativo en la mesa.
Nos encontramos en la encrucijada de una innovación y una disrupción extraordinarias. Con un gran poder viene una gran responsabilidad. Si queremos garantizar que la IA beneficie a toda la humanidad, debemos asumir nuestra responsabilidad y poner a la humanidad en el centro.
Acerca de Indeed
Más personas encuentran trabajo en Indeed que en ningún otro sitio. Indeed es el sitio de empleo nº 1 del mundo (Comscore, Total de visitas, junio de 2023) y permite a los candidatos buscar millones de empleos en más de 60 países y 28 idiomas. Más de 3 millones de empresas utilizan Indeed para encontrar y contratar nuevos empleados. Más de 330 millones de visitantes únicos utilizan Indeed cada mes para buscar empleo, publicar currículos, investigar empresas y mucho más.
