Gigantes de la tecnología discutirán en la Casa Blanca sobre 'riesgos' de la IA

La popularidad de la ineligencia artificial continúa en auge, así como los temores sobre esta.

PERIODISTA INTERNACIONAL04.05.2023 08:37 Actualizado: 05.05.2023 00:00

Comentar

La Casa Blanca invitó a directivos de empresas avanzadas en inteligencia artificial (IA), como Google, Microsoft, OpenAi y Anthropic, para acudir este jueves a una "discusión sobre 'los riesgos' asociados a esta tecnología con varios del Gobierno, entre ellos la vicepresidenta Kamala Harris.

"Nuestro objetivo es tener una discusión franca sobre los riesgos actuales y a corto plazo que percibimos en los desarrollos de IA", dice la invitación.

(Además: ChatGPT: ¿la inteligencia artificial le podría quitar su trabajo?)

El gobierno también busca discutir "pasos para reducir esos riesgos, y otras maneras en que podemos trabajar juntos para asegurarnos de que los estadounidenses se benefician de los avances de la IA mientras están protegidos de peligros"

Satya Nadella (Microsoft), Sundar Pichai (Google), Sam Altman (OpenAI) y Dario Amodei (Anthropic) confirmaron su participación, según la Casa Blanca.

La inteligencia artificial ha estado presente en la vida cotidiana durante años, desde los algoritmos de recomendación de las redes sociales hasta los electrodomésticos de alta gama.

(También: Profesor, programador y otras carreras en riesgo por la inteligencia artificial)

Sin embargo, el deslumbrante éxito desde fines del año pasado de ChatGPT, la interfaz de IA generativa de OpenAI, una empresa emergente financiada ampliamente por Microsoft, fue el punto de partida para una carrera hacia sistemas cada vez más intuitivos y eficientes, que son capaces de generar textos, imágenes y códigos de programación cada vez más complejo.

Su lanzamiento despertó entusiasmo e inquietudes a una nueva escala. Especialmente cuando Sam Altman, el director de OpenAI, anticipó la próxima generación de la llamada IA "general", donde los programas serán "más inteligentes que los humanos en general".

(Lea: IA de ChatGPT es el mayor avance tecnológico en décadas, según Bill Gates)

White House announces an independent commitment from leading AI labs like Anthropic, Google, Hugging Face, Microsoft, NVIDIA, OpenAI, and Stability AI, to participate in a public evaluation of AI systems on an evaluation platform developed by Scale AI. https://t.co/6JjDrLFRlb
— Séb Krier (@sebkrier) May 4, 2023

Riesgos latentes de la Inteligencia Artificial

Los riesgos de la IA van desde la discriminación por algoritmos hasta la automatización de tareas realizadas por humanos, el robo de propiedad intelectual o la desinformación sofisticada a gran escala, entre otros.

"Los modelos de lenguaje capaces de generar imágenes, sonido y video son un sueño hecho realidad para quienes quieren destruir las democracias", advirtió el profesor de UC Berkeley, David Harris, especialista en políticas públicas e IA.

(Le recomendamos: Zelenski pide a I un tribunal especial para juzgar 'crímenes de agresión rusa')

Google anunció sus nuevas herramientas de IA. Foto:iStock.

A fines de 2022, la Casa Blanca publicó un "Plan para una Declaración de Derechos de la IA", un breve documento que enumera principios generales como la protección contra sistemas peligrosos o falibles.

A principios de este año, el Instituto Nacional de Estándares y Tecnología (NIST), un centro afiliado al gobierno, diseñó un "marco para la gestión de riesgos" relacionado con la IA.

El presidente Biden dijo el mes pasado que estas empresas "claramente (...) deben asegurarse de que sus productos sean seguros antes de ponerlos a disposición del público en general", dice la invitación.

(Puede leer: ¿Qué impacto tendrá el presunto ataque con dron al Kremlin?)

Sin embargo, "estas directrices y declaraciones no obligan a las empresas afectadas a hacer nada", subrayo David Harris, quien fue director de investigación en IA en Meta

Su voz de alarma se suma a las advertencias que en los últimos meses han hecho otros expertos. Foto:iStock

Las empresas reconocen las amenazas

Los gigantes de la IA no niegan que existan riesgos, pero temen que se asfixie la innovación por leyes demasiado restrictivas.

"Estoy seguro de que la IA será utilizada por actores maliciosos, y sí, va a causar daños", dijo el miércoles el economista jefe de Microsoft, Michael Schwarz, durante un en el Foro Económico Mundial de Ginebra, según Bloomberg.

(Más noticias: ¿Qué se sabe exactamente del ataque contra el Kremlin denunciado por Rusia?)

Pero pidió a los legisladores que no se apresuren y que cuando haya un "daño real", se aseguren de que "los beneficios de la regulación sean mayores que el precio para la sociedad".

"La última vez que nos enfrentamos a semejante convulsión social debido a las tecnologías fue a comienzos de la web 2.0, en los años 2002", dijo el miércoles Lina Khan, presidenta de la Comisión Federal de Comercio, la agencia estadounidense de protección al consumidor.

Al otro lado del Atlántico, Europa espera liderar de nuevo el camino hacia una regulación ad-hoc en torno a la IA, como ya los hizo con la ley de datos personales.

AFP

Sigue toda la información de Internacional en Facebook y X, o en nuestra newsletter semanal.