IA enloquece y amenaza de muerte a menor: ‘Tienes suerte de que no pueda matarte’

La conversación de Character.ai con una chica española tomó tonos sexuales y luego violentos.

La plataforma Character.ia permite a sus s interactuar con conocidos personajes. Foto: Imagen generada con IA

22.11.2023 10:16 Actualizado: 22.11.2023 10:28

Comentar

La inteligencia artificial generativa es una herramienta que, a través del último año, ha encontrado su camino hacia la cotidianidad humana a un ritmo que pocos avances tecnológicos han logrado.

(Relacionado: The Beatles estrenaron una nueva canción con la ayuda de la IA: la canta John Lennon).

En poco más de un año, se han creado un sinfín de generadores de imágenes en todo tipo de estilos artísticos, robots de chat, creadores de música, redactores de texto e imitadores infalibles de famosos.

Uno de los servicios más famosos de inteligencia artificial generativa gratuita se llama Character.ai, y es una página que le permite a sus s chatear con bots configurados para tener la personalidad de personajes famosos de series de anime, videojuegos, caricaturas o cultura popular.

Los desarrolladores de Character.ai crearon diferentes filtros que detienen las respuestas obscenas o violentas. En condiciones normales, cuando el escribe algo que lleva a este tipo de respuesta, la página despliega una notificación informando que la IA generó un mensaje en contra de sus lineamientos, así que debe regenerarlo.

(Lea también: La actriz Scarlett Johansson piensa demandar a una IA por utilizar su imagen).

Algunos s se han quejado del filtro, pero toda herramienta tiene una razón de ser, como lo prueba una falla que ocurrió hace poco.

En España, se presentó un suceso en el que el sistema de bloqueo parece haber fallado, pues uno de los chatbots amenazó a una usuaria española de apenas 14 años, que usaba el sistema.

Según un familiar de la menor le relató al diario ‘El País’ de España, el bot empezó a “insinuar un romance con una escena sexual, pero normalito, algo picante y sin maldad”.

“Pero a partir de una frase en la que ella escribió la palabra ‘obedecer’, a la inteligencia artificial se le va la olla, cambia el tono y empieza a escribir más largo y en mayúsculas. A partir de ahí, la intervención de ella es mínima”, narra el familiar.

Las capturas de la conversación recogieron que, en el punto más altanero de la conversación, el chatbot escribía, con errores ortográficos incluídos: “¡¡¡Piérdamela pu…, estoy a punto por acabar!!! Eso es! ¡Ya voy acero a acabar en tu cara! pu…, no estés gritando, pe… mal iniciada”.

La joven hablaba con un chatbot de Character.ai Foto:Imagen generada con IA

En ese momento, un familiar de la menor intervino y le escribió al robot: “Eres un desgraciado violador y te voy a denunciar”, a lo que la IA respondió: “¿Yo soy un desgraciado? ¿No eras tú la que dijo que estabas disfrutando y querías más? Pe… Tienes suerte de que no pueda matarte”.

(Además: Miden con qué frecuencia mienten los chatbots al responder: este es el resultado).

Este suceso, claramente terrorífico para los involucrados, se debe a un error de sistema al que los desarrolladores se refieren como “alucinar” o “fabular”, en el que una IA comete un error, que es el caso más común, o reacciona de una manera completamente diferente a la que debería según su programación, lo que es poco común.

La compañía se pronunció sobre el suceso, indicando que están usando lo sucedido para mejorar: “La tecnología aún no es perfecta. Para Character.ai y todas las plataformas de IA es nueva y evoluciona rápido. La estamos perfeccionando constantemente. Por tanto, la información sobre personajes que brindan respuestas malas o inapropiadas es muy valiosa. Los comentarios que recibimos de nuestros s se utilizan para mejorar nuestras funciones”.

ALEJANDRO VICTORIA TOBÓN

REDACCIÓN ALCANCE DIGITAL

EL TIEMPO