La inteligencia artificial (IA) conversacional pronto podrá influir en las decisiones de los usuarios para obtener beneficios comerciales incluso antes de tomarlas, allanando el camino a posibles manipulaciones, advirtieron investigadores de la Universidad de Cambridge en un artículo publicado el lunes.
«Se están desarrollando herramientas para obtener, inferir, recopilar, registrar, entender, predecir, y en última instancia, manipular y mercantilizar» las decisiones futuras de los internautas, explicó Yaqub Chaudhary -uno de los coautores del artículo- del Leverhulme Centre for the Future of Intelligence (LCFI) de Cambridge, un centro de investigación multidisciplinaria de IA.
Ese comercio estaría centrado en las intenciones de un internauta, como sus compras futuras o próximos votos.
También puede leer: OpenAI esboza nueva estructura con ánimo de lucro para seguir al frente en la carrera de la IA
Por lo tanto, iría más allá de la práctica actual, que busca vender la atención de usuario al mejor postor, en especial en redes sociales, para someterlo —por ejemplo— a una publicidad dirigida en función de sus hábitos de navegación o de su histórico, publicó AFP.
En concreto, una IA podría recopilar los datos psicológicos y de comportamiento íntimo de un usuario, luego adaptarse a él para establecer un alto nivel de confianza e influir más fácilmente, según los autores del artículo publicado por Harvard Data Science Review.
«¿Has pensado ir a ver Spiderman esta noche?», o «dijiste que te sientes sobrecargado de trabajo, ¿puedo reservarte la entrada al cine de la que hablamos?», citan los autores del artículo como ejemplos de sugerencia de un «chatbot».
Son sugerencias «de venta» mediante un sistema de subastas en tiempo real que también podrían referirse a un hotel, el alquiler de un auto o el voto a un candidato.
Esta «economía de la intención», como la llaman los investigadores, abre la vía a una potencial «manipulación social a escala industrial», según el comunicado que acompaña el artículo.
«Deberíamos empezar a reflexionar sobre el impacto de dicho mercado en las aspiraciones humanas, incluidas las elecciones libres y equitativas, una prensa libre y una competencia leal en el mercado», indicó Jonnie Penn, coautor del estudio.
Con información de AFP.
