SESGO INCONSCIENTE
Manipulación silenciosa: Así puede la IA influir en tus ideas con la escritura inteligente
Las herramientas de inteligencia artificial que ayudan a escribir no solo facilitan tareas, también pueden influir en lo que pensamos. Un estudio revela que ese cambio ocurre sin que el usuario lo perciba.
Publicidad
Las herramientas de ayuda a la escritura con inteligencia artificial (IA), como el autocompletado de correos, pueden modificar el modo de pensar de una persona, según un estudio reciente.
Así lo ha constatado un equipo de investigadores estadounidenses en experimentos con 2.500 participantes, donde comprobaron que incluso advirtiendo del sesgo deliberado de la herramienta, los usuarios no eran conscientes de que su opinión estaba siendo influida.
Las conclusiones, publicadas en 'Science Advances', alertan del riesgo de los sesgos en la IA en herramientas cada vez más extendidas, ya que muchos servicios de correo electrónico proponen redactar mensajes completos.
A diferencia de otros estudios sobre desinformación, donde advertir a los usuarios ofrecía cierta protección, en el caso de la escritura automática esta estrategia no funcionó.
En dos experimentos, los participantes modificaron su postura hacia las sugerencias generadas por la IA, adoptando el enfoque propuesto sin apenas cuestionarlo.
En uno de ellos, debían escribir un texto sobre las pruebas estandarizadas en educación. Un grupo recibió sugerencias sesgadas, otro propuestas neutrales y un tercero solo una lista de argumentos previos.
El grupo más influenciado fue el que utilizó autocompletado sesgado, cuyas opiniones terminaron alineándose con las propuestas de la IA.
Propuestas sesgadas, visiones alteradas
En el segundo experimento, los participantes escribieron sobre temas como la pena de muerte, el fracking, los organismos modificados genéticamente y el derecho al voto de los delincuentes.
Los investigadores diseñaron sugerencias con orientación ideológica, tanto progresista como conservadora, según el tema tratado.
Incluso cuando algunos participantes fueron advertidos del sesgo de las propuestas, sus opiniones se inclinaron igualmente hacia la posición sugerida.
"Les dijimos a las personas que tuvieran cuidado con la orientación de la IA, pero no sirvió de nada", afirma Moor Naaman, profesor de la Universidad de Cornell.
Además, la mayoría no fue consciente de haber cambiado su punto de vista tras interactuar con la herramienta.
"Hemos observado una influencia encubierta: las personas no perciben que su opinión está siendo manipulada, lo que puede tener consecuencias graves", concluye Williams-Ceci, también investigador en Cornell.
Publicidad