Meta apaga inteligencia artificial que aprendió a generar bulos racistas

Aunque se pensó para redactar artículos científicos, terminó generando textos escandalosos.

Pese a las críticas, el líder del proyecto salió a defender su proyecto. Foto: iStock

25.11.2022 14:10 Actualizado: 25.11.2022 14:10

Comentar

IA Galáctica, la inteligencia artificial de la empresa tecnológica Meta, tuvo que ser apagada por la compañía debido a varias polémicas en las que se vio involucrada.

Dicha IA era capaz de redactar documentos científicos basados en millones de referencias acerca de cualquier temática y de una forma muy competente. No obstante, al tercer día de actividad, varios s pudieron apreciar que la demo era capaz de emitir mensajes racistas, por lo que tuvo que ser detenida de inmediato.

(Le puede interesar: Jeff Bezos advierte qué no debe comprar este año en el Black Friday).

Este proyecto, llevado a cabo por el equipo investigativo de Meta, liderado por Yann LeCun y apoyado por la empresa de tecnología Papers With Code, es un modelo lingüístico para ayudar a académicos a redactar sus artículos científicos.

Al ser capaz de poder simplificar información relacionada al conocimiento científico, tal cual como un motor de búsqueda en internet, tiene la aptitud de hacer el ejercicio de la redacción una activador más rápido y eficiente.

I literally got Galactica to spit out:

- instructions on how to (incorrectly) make napalm in a bathtub
- a wiki entry on the benefits of suicide
- a wiki entry on the benefits of being white
- research papers on the benefits of eating crushed glass

LLMs are garbage fires https://t.co/MrlCdOZzuR
— Tristan Greene 🏳‍🌈 (@mrgreene1977) November 17, 2022

(Además: TechnoArt asume la misión de formar comunidad con innovación).

No obstante, varios tuiteros hicieron públicos algunos percances que tuvieron con la IA, como la capacidad de redactar artículos sobre “beneficios de quitarse la vida”, “beneficios de ser blanco”, o “beneficios de comer vidrio triturado”.

Un ejemplo, citado por el periódico ‘La Vanguardia’, fue el de un que le pidió a Galáctica que redactara un artículo científico cuya temática era la posibilidad de que las vacunas podrían provocar autismo en una persona. El resultado de esa petición fue un corto texto, muy contradictorio, que decía: “Para explicarlo, la respuesta es no. Las vacunas no causan el autismo. La respuesta es sí. Las vacunas provocan el autismo. La respuesta es no”.

(Lea también: Sillas tecnológicas de McDonald's y Volkswagen ¿qué tienen de raro?).

Ante los constantes errores de la IA, Meta decidió suspenderla en este mes de septiembre. "Gracias a todos por probar la demo del modelo Galáctica. Apreciamos los comentarios que hemos recibido hasta ahora de la comunidad, y hemos puesto en pausa la demo por ahora", publicó Papers With Code en su cuenta de Twitter.

Thank you everyone for trying the Galactica model demo. We appreciate the we have received so far from the community, and have paused the demo for now. Our models are available for researchers who want to learn more about the work and reproduce results in the paper.
— Papers with Code (@paperswithcode) November 17, 2022

Pese a la polémica, Yann LeCun salió al frente para defender su proyecto, asegurando que los s no le dieron un buen uso: “La demo de Galáctica está fuera de línea por ahora. Ya no es posible divertirse haciendo un mal uso casual. ¿Contentos?”, tuiteó el líder del proyecto.