La startup Expai de Pablo Vitoria (Logroño) es la encargada de la creación de este policía cibernético, única en el continente para enfrentar comentarios homófobos, machistas, de bullying y discriminaciones de cualquier otro tipo hacia usuarios de la red.
Una de las motivaciones para la creación de este robot justiciero fue lo sucedido con el gigante de las ventas Amazon. Los programadores contratados crearon un sistema que filtraba a los candidatos que se presentaban para trabajar en ella y puntuaba el ser mujer como algo negativo. Todos los técnicos del proyecto eran hombres y, por lo tanto, eso es lo que aprendió el robot como algo bueno.
Pablo, tras descubrir esta noticia, siguió indagando y descubrió que no fue el único caso. La razón principal por la que estas empresas automatizan, al menos, las fases primeras de un proceso de selección es para ser más eficaces, pero este proceso muchas veces no es del todo justo ya que se compone de complejos algoritmos matemáticos que pueden dar lugar a sesgos discriminatorios e indeseados.
Expai es el encargado de comprobar que estos algoritmos cumplen su función correctamente y poner de manifiesto las posible incoherencias que puedan surgir de su utilización.
El equipo humano de esta empresa quiere conseguir que la inteligencia artificial sea accesible para todos y que los usuarios puedan poner a prueba sus sistemas, indicándoles, no solo si funcionan correctamente o no y por qué, sino que también les explica las nociones básicas de programación y los posibles fallos en sus algoritmos. De esta manera, las personas más desactualizadas del mundo internáutico se atreverán con estas novedades de la tecnología.
Aún no hay comentarios.