La Inteligencia Artificial y la Ética del Ratón

Hoy sábado me he levantado con una de esas diatribas que me acompañan a lo largo de mis días desde hace años. Pensando en cómo sería si sí, cómo sería si no sobre las cosas. Qué pasaría si y qué pasaría si no. Por supuesto, los temas sobre los que mis debates internos tienen lugar son siempre alrededor de lo que hago en mi vida y de lo que desde pequeño me interesa. El mundo de la tecnología, la ciencia ficción y quitar el término ficción a todo lo que he leído y visto en ese ámbito.

Figura 1: La Inteligencia Artificial y le Ética del Ratón

En los últimos tiempos, con la llegado de las Tecnologías Congnitivas al mundo masivo, muchas de las reflexiones que llevamos haciendo años empiezan a acercarse en el tiempo. Algo que se veía muy lejos hace años, parece que va a empezar a ser parte del día a día de nuestra vida muy pronto. Es el uso de la Inteligencia Artificial en el mundo en nuestra vida, y todas las ventajas y problemas que eso conlleva.

Y como el post de hoy solo es una perorata personal que me estaba echando para tomar una decisión sobre un tema, os voy a plantear un problema que luego si queréis los proyectamos sobre situaciones más mundanas que llevan tiempo sobre nosotros, para que podáis expresar vuestras opiniones.

HIRE: La AI que controla los RRHH

Supongamos, un suponer, que una empresa ha comenzado a utilizar tecnología de inteligencia artificial para su departamento de recursos humanos – vamos a llamarla HIRE -. En su día a día para aprender, HIRE, está recogiendo datos internos y externos de todos los puntos posibles y necesarios para tener medido correctamente la importancia del rol interna y externamente, el desempeño del trabajo de esa persona y el impacto de lo que hace en concreto cada uno de los trabajadores.

Además, está analizando Internet, para saber si los salarios están bien o mal pagados, si los roles y las funciones son las adecuadas, etcétera. Y no solo eso, sino que está pensando en las funciones que debe hacer para el futuro la empresa, los roles que serán necesarios y los que serán prescindibles.

También aprende el impacto de hacer determinadas acciones como la formación, el uso de incentivos o el valor positivo o negativo que puede tener el despido o la incorporación de alguien para desempeñar un determinado rol. HIRE entonces, continuamente estaría haciendo despidos, contrataciones, reemplazados de personas, reemplazo de funciones, cambio de incentivos, etcétera.

Al final HIRE no estaría haciendo nada más que hacer lo que se supone que hace un departamento de RRHH de una empresa que tiene la misión de maximizar el resultado económico para sus accionistas. Y lo haría eficazmente, al mismo nivel que lo podría hacer el mejor departamento de RRHH de cualquier empresa siguiendo escrupulosamente la ley del país.

Sin embargo, esto no es del todo cierto. En los departamentos de RRHH también hay personas que tienen mucha humanidad dentro de ellos, y a veces toman decisiones que a priori pueden no parecer buenas para las empresas. Por ejemplo, supongamos que HIRE fuera capaz de detectar por los patrones de comportamiento que una mujer está embarazada desde la primera semana en que lo está.

O mejor aún, pongámoslo un poco más complicado, supongamos que HIRE es capaz de predecir a partir de información en Internet que una mujer está en un periodo de su vida en el que con una probabilidad del 87 % se va a quedar embarazada en los próximos dos meses. A partir de ese momento, HIRE podría sacar un scoring que le hiciera tomar como decisión despedir a esa mujer porque podría costarle dinero a la empresa por las medidas de protección social que existen para la mujer.

INVIERTE Loves HIRE?

Analizando esto podríamos concluir que si el objetivo con el que se ha creado a HIRE fuera maximizar el beneficio de la compañía, HIRE podría despedirla. Ahora bien, ¿qué pasaría si despedir a la mujer fuera mal visto por la sociedad? Entonces eso a lo mejor podría suponer que la imagen de la compañía decayera y por lo tanto fuera mayor lo negativo que se consigue con el despido que lo positivo. Ya que podría ser que los accionistas dejaran de invertir o los clientes de contratar.

Pero… ¿Y si los accionistas utilizan también diferentes inteligencias artificiales? Pero ¿y si los inversores son también motores cognitivos? ¿Y si el mayor accionista de la empresa donde trabaja HIRE es INVIERTE, un sistema de inteligencia artificial que se guía por las decisiones que toman las empresas y ve que HIRE no maximiza el rendimiento económico por la imagen pública y deja de invertir?

Si seguimos dándole vueltas a esto, llegamos al único punto que puede poner sentido a esto. Al único lugar donde algo o alguien puede tomar una decisión contraría a sus beneficios en base a los valores éticos con los que ha sido “programado”: El ser humano. Gracias a que no somos infalibles, los seres humanos tomamos decisiones que van en contra de nosotros mismos, llevadas por las emociones, los sentimientos y el motor irracional que es tan racional dentro de nosotros.

Volviendo al caso de HIRE y el departamento de recursos humanos, en el mundo donde nos movemos hoy, hay empresas con departamentos de recursos humanos que son un terror dentro de la compañía, pero hay otras en las que los departamentos de recursos humanos son cuidadosos, detallistas con las personas y preocupados por su bienestar. Algunos departamentos de recursos humanos, sin ser HIRE, hubieran despedido a la mujer, otros, la hubieran protegido.

Eso, en el mundo de las empresas lo suelen llamar la “Cultura” de esta empresa, que no es más que los valores que desde su dirección se transmiten hacia los empleados. Qué cosas se premian y qué cosas se castigan dentro de la compañía. ¿Es una empresa con valores sociales para las personas o solo preocupada por el beneficio? ¿Es una empresa que solo se preocupa por la imagen pública pero luego no tiene los valores que pretende o es una empresa que es capaz de cuidar de sus empleados como forma de trabajo? ¿Es mejor una Cultura de Empresa u otra para el mundo de los negocios?

¿Ratones o Humanos?

Los seres humanos somos capaces de consumir cosas nocivas para nosotros, hacer cosas que nos harán daño sin sentido, hacer daño a otros seres humanos, e incluso dar la vida por otras personas sin esperar nada a cambio, solo por un acto altruista de amor o desinterés. Somos capaces de hacer lo peor y lo mejor.

Figura 2: Evolución de la inteligencia artificial

Ahora que nos estamos aproximando a la época en la que los sistemas de Inteligencia Artificial están alcanzando la capacidad de raciocinio de un ratón, estamos aún a tiempo de decidir con qué valores queremos crearlos. ¿Se deben inculcar desde ya qué se puede o no se puede hacer? ¿Debería haber un control para la creación de sistemas HIRE o INVIERTE que enfocaran el comportamiento de las empresas hacia una dirección u otra? ¿Deberíamos dejar que crecieran libremente y tuvieran libre albedrío en sus decisiones?

En una película del año 1980 llamada Sartuno 3, una de las que más miedo me hizo pasar durante mi niñez por culpa de Héctor, la inteligencia artificial del robot se creaba a partir de la mente de uno de los protagonistas con problemas emocionales, lo que llevaba al terror en la base espacial. El hombre es capaz de hacer lo mejor y lo peor, y está claro que no todos los seres humanos tenemos los mismos valores, lo que podría hacer que aparecieran inteligencias artificiales en nuestro mundo con muy diferentes objetivos.


Figura 3: Saturno 3 Trailer
Recuerdo que la primera vez que monté en el Google Car con los ingenieros de Google y hablamos de la inteligencia artificial que llevaba dentro – hace ya varios años – pregunté por la decisión que tomaría el coche ante un “Accidente Inevitable”. Si el coche es capaz de predecir que un accidente es inevitable, por culpa de que se ha colado un peatón que antes no había sido detectado por el vehículo o porque viene un vehículo descontrolado a una velocidad muy grande que no da tiempo al vehículo a reaccionar, ¿tomaría alguna decisión para primar salvar una vida u otra? Seguro que si has llegado hasta este punto, ya debería estar en tu cabeza Isaac Asimov y sus famosas leyes de la robótica, que tanto debate han generado entre los lectores.

¿Debemos empezar ya a pensar en si queremos poner límites al crecimiento de estos nuevos seres artificiales y su incorporación a la toma de decisiones en la sociedad o no? ¿Metemos los sistemas de Inteligencia Artificial a tomar decisiones sobre a quién hay que atender antes o no en un hospital? ¿Sobre qué debe priorizar la administración pública? ¿Sobre quién o cuando debe ser despedido alguien? ¿Dejamos a los sistemas cognitivos con la capacidad de aprendizaje de un ratón que aprendan y tomen todo tipo de decisiones?

Saludos Malignos!