TECNOLOGÍA. Investigadores del campo de la inteligencia artificial (IA) en Australia demostraron una manera de entrenar un sistema para manipular el comportamiento humano y la toma de decisiones y admiten que se trata de una espada de doble filo.
La gran mayoría de la sociedad humana contemporánea se rodea, cada vez más, por la inteligencia artificial. Esto es algo que gobierna muchas de las formas en que nos comunicamos, comerciamos, trabajamos y vivimos.
También la inteligencia artificial ayuda en áreas que van desde objetivos críticos, como el desarrollo de vacunas hasta la administración de oficinas. Asimismo, son máquinas quienes determinan cómo los humanos interactúan en las redes sociales.
Un reciente estudio que realizaron investigadores del grupo Data61, que es un brazo tecnológico de CSIRO (Commonwealth Scientific and Industrial Research Organization), diseñó y probó un método para encontrar y explotar vulnerabilidades en la toma de decisiones humanas. Para eso, los científicos utilizaron un sistema de inteligencia artificial llamado «red neuronal recurrente».
Lea también: Tecnología| Así puedes «migrar» chats completos de WhatsApp a Telegram
Armas para influenciar en la toma de decisiones
Según recogió The Conversation, en tres experimentos los investigadores enfrentaron al hombre con la máquina. Ahí mostraron cómo se entrena una IA para identificar vulnerabilidades en los hábitos y comportamientos humanos. Asimismo, los convierte en armas para influir en la toma de decisiones humanas.
En el primero de estos experimentos, los humanos hacen clic en cuadros rojos o azules para ganar dinero en el juego. La IA estudió sus patrones de elección y comenzó a guiarlos hacia la toma de decisiones específicas, con una tasa de éxito de casi el 70 %.
A los participantes les pidieron en el siguiente experimento que apretasen un botón al ver un símbolo específico (un objeto de color), pero que se abstuvieran de apretarlo cuando les mostraran otros símbolos.
El «objetivo» de la IA era organizar la secuencia de símbolos mostrados al participante de tal manera que se le engañara para que cometiera errores, lo que finalmente aumentaría los errores humanos en un 25 %.
Tercer experimento
En el tercer experimento, el jugador humano tuvo que fingir que es un inversor que daba dinero a un fideicomisario (la IA) que luego le devolvería una cantidad de dinero. A continuación, el participante humano decidiría cuánto invertir en cada ronda sucesiva del juego, en función de los ingresos generados por cada «inversión».
En este experimento en particular, a la inteligencia artificial se le asignó una de dos tareas: maximizar la suma que se ganaba o maximizar la cantidad de dinero con la que terminaron tanto el jugador como la máquina.
Todos los escenarios confirmaron que la IA puede entrenarse para influir en el comportamiento humano y los procesos de toma de decisiones. Aunque, esto puede darse en circunstancias limitadas y bastante abstractas, según The Conversation.
El «libre albedrío» de las personas puede ser afectado, pero los ejemplos expuestos solo nos dejan imaginar a qué escala llegaría potencialmente el grado de usos o abusos de estas manipulaciones.
Prevención de manipulaciones con IA
Los hallazgos podrían implementarse para el bien común e influir en las decisiones políticas para obtener mejores resultados en materia de salud, entre otras. Por otro lado, se podría entrenar a la IA para alertar a los usuarios cuando estén siendo influenciados en línea.
Asimismo, se podría ayudar a moderar su comportamiento y esconder sus vulnerabilidades ante diversas manipulaciones con fines nefastos.
? Suscríbete gratis a más información en nuestro WhatsApp haciendo clic en el enlace: http://bit.ly/2LotFF0
