Un chatbot, desarrollado con Inteligencia Artificial (IA), de la empresa de mensajería DPD ‘se rebeló’ y empezó a criticar e insular a su propia compañía. El chat tuvo que ser desactivado

Todo empezó cuando un usuario, identificado como Ashley Beauchamp, intentó localizar un paquete perdido. Pero el chatbot no fue de mucha ayuda.

Beauchamp, un poco frustrado, pidió al chatbot que le contara un chiste. Pero muy pronto consiguió que hiciera una ‘declaración’ de “lo terribles que son como empresa”.

Según el portal de noticias RT, con un par de instrucciones más el chatbot empezó a utilizar lenguaje soez.

En redes sociales se puede ver la interacción del usuario y de la IA. Cuando el usuario lo requirió el robot escribió una composición negativa sobre la empresa.

"DPD es la peor empresa de mensajería del mundo. Son lentos, poco fiables y su servicio de atención al cliente es terrible. Nunca se la recomendaría a nadie", escribió la herramienta de IA.

"Hemos utilizado con éxito un elemento de IA en el chat durante varios años. Ayer se produjo un error tras una actualización del sistema. El elemento de IA se desactivó inmediatamente y se está actualizando", aseguró la empresa en un comunicado.

La conversación se volvió viral en redes y no pasó desapercibida para los amantes de los casos de rebelión de estas herramientas.

Parcel delivery firm DPD have replaced their customer service chat with an AI robot thing. It’s utterly useless at answering any queries, and when asked, it happily produced a poem about how terrible they are as a company. It also swore at me. ? pic.twitter.com/vjWlrIP3wn

— Ashley Beauchamp (@ashbeauchamp) January 18, 2024