Exclusivo suscriptores

Pionero de sistemas IA dice que pueden representar una amenaza para la humanidad

Hinton y dos estudiantes crearon una tecnología que sería el cimiento intelectual de la IA.

NYT: Ilya Sutskever, científico titular de OpenAI, trabajó con Geoffrey Hinton en la investigación de redes neurales. Foto: Jim Wilson/The New York Times

15.05.2023 15:32 Actualizado: 15.05.2023 21:30

Comentar

Geoffrey Hinton fue un pionero de la inteligencia artificial. En el 2012, Hinton y dos de sus estudiantes de posgrado en la Universidad de Toronto crearon una tecnología que se convirtió en el cimiento intelectual de los sistemas de IA que las empresas más grandes de la industria tecnológica creen es una clave para su futuro.

Sin embargo, el 1 de mayo se unió oficialmente a los detractores que dicen que esas empresas se abalanzan al peligro con su campaña agresiva para crear productos basados en inteligencia artificial generativa, la tecnología que impulsa a los chatbots populares como ChatGPT.

Hinton dijo que renunció a su empleo en Google, donde trabajó durante más de una década y se convirtió en una de las voces más respetadas en el campo, para poder denunciar los riesgos de la IA.

Una parte de él, dijo, ahora lamenta la labor de su vida.

“Me consuelo con la excusa normal: si no lo hubiera hecho yo, alguien más lo habría hecho”, dijo Hinton recientemente en su casa en Toronto.

El recorrido de Hinton de pionero de la IA a alarmista marca un momento notable para la industria tecnológica en quizás su punto de inflexión más importante en décadas. Los líderes de la industria creen que los nuevos sistemas de IA podrían ser tan importantes como la introducción del navegador web a principios de la década de 1990 y podrían conducir a avances en áreas que van desde la investigación de fármacos hasta la educación.

Pero a muchos les preocupa que la IA generativa ya puede ser una herramienta para la desinformación. Pronto, podría ser un riesgo para los empleos. Más adelante, dicen los detractores, podría ser un riesgo para la humanidad.

“Es difícil ver cómo se puede evitar que malos actores lo usen para cosas malas”, dijo Hinton.

Después de que OpenAI, una startup de San Francisco, lanzó una nueva versión de ChatGPT en marzo, más de mil expertos firmaron una carta abierta en la que pedían una moratoria de seis meses a los nuevos sistemas debido a que la IA plantea “profundos riesgos para la sociedad y la humanidad”.

Varios días después, 19 líderes actuales y anteriores de la Asociación para el Avance de la Inteligencia Artificial, una sociedad académica de 40 años, publicaron su propia carta advirtiendo sobre los riesgos de la IA. Ese grupo incluía a Eric Horvitz, director científico de Microsoft, que ha implementado OpenAI en muchos productos, incluyendo su motor de búsqueda Bing.

Jeff Dean, director científico de Google, dijo en un comunicado: “Seguimos comprometidos con un enfoque responsable a la IA”.

En el 2012, Hinton y dos de sus estudiantes en Toronto, Ilya Sutskever y Alex Krishevsky, construyeron una red neural que podía analizar miles de fotos y enseñarse a identificar objetos comunes, como flores, perros y autos.

Google gastó 44 millones de dólares para adquirir una empresa fundada por Hinton y sus dos alumnos. Su sistema condujo a chatbots como ChatGPT y Google Bard. Sutskever se convirtió en científico titular de OpenAI.

Hasta el año pasado, dijo Hinton, Google actuó como un “custodio apropiado”. Pero ahora que Microsoft ha reforzado su motor de búsqueda Bing con un chatbot —retando el negocio medular de Google— Google está apresurándose a implementar la misma tecnología. Es una carrera que podría ser imposible de detener, dijo Hinton.

Le preocupa que internet se vea inundada de fotos, videos y textos falsos, y la persona promedio “ya no podrá saber qué es verdad”.

También le preocupa que la IA trastoque el mercado laboral. Los chatbots podrían reemplazar a los asistentes legales, asistentes personales y otros que manejan tareas rutinarias. “Elimina el trabajo monótono”, dijo. “Podría eliminar más que eso”.

Hinton dijo que las futuras versiones de IA pueden representar una amenaza para la humanidad porque a menudo aprenden comportamientos inesperados a partir de la gran cantidad de datos que analizan. Esto se convierte en un problema, dijo, al tiempo que las personas y las empresas permitan que los sistemas de IA no sólo generen su propio código computacional, sino también que lo ejecuten por sí solos. Y teme el día en que las armas verdaderamente autónomas —esos robots asesinos— se vuelvan realidad.

“La idea de que estas cosas en realidad podrían volverse más inteligentes que las personas —unas cuantas personas lo creían”, dijo Hinton. “Pero la mayoría de la gente pensaba que estaba muy distante. Y yo pensé que estaba muy distante. Pensé que faltaban entre 30 y 50 años o incluso más tiempo. Obviamente, ya no creo eso”.

CADE METZ

THE NEW YORK TIMES

Sigue toda la información de Internacional en Facebook y X, o en nuestra newsletter semanal.