Explicativo

Psicólogo e investigador de Stanford, quien pronosticó el algoritmo de Facebook, hace advertencia sobre la IA

La inteligencia artificial podría simular la capacidad de comprender acciones o creencias las personas.

Los análisis se basaron principalmente en ChatGPT. Foto: iStock

Link

Leidy Estefanía Rico Arboleda

PERIODISTA07.11.2024 19:48 Actualizado: 07.11.2024 19:58

Comentar

Michal Kosinski es un profesor polaco de comportamiento organizacional en la Escuela de posgrado de Negocios en la Universidad de Stanford, que suele realizar investigaciones acerca de la cognición humana y la inteligencia artificial, según su sitio web.

(Lea también: El actor que interpretó a uno de los ‘Batman’ más recordados y hoy se comunica por inteligencia artificial tras padecer cáncer de garganta).

Se dedica a examinar los procesos psicológicos en modelos de lenguaje a gran escala con la ayuda de la IA, el aprendizaje automático, los macrodatos y las técnicas computacionales para modelar y predecir el comportamiento humano.

Uno de sus proyectos más conocidos fue cuando analizó los mecanismos que le permitió a Facebook adquirir un conocimiento profundo sobre sus s, los cuales estaban basados en los ‘Me gusta’ que presionaban las personas al utilizar la red social.

¿Cuál es la advertencia de Michal Kosinski sobre la inteligencia artificial?

En un artículo publicado en la revista ‘Proceedings of the National Academy of Sciences’, el profesor y psicólogo polaco explicó que llevo a cabo un análisis sobre los modelos extensos del lenguaje (LLM) como ChatGPT, para descubrir si dominaban la "teoría de la mente”.

(Siga leyendo: Inteligencia artificial dice qué características tienen las personas inteligentes en Suramérica).

@axeljutoran Como usar mejor la IA? 🤖🦾🤷 #IA #AI #InteligenciaArtificial #ChatGPT #Claude #Prompt #Prompts #Estrategia #Productividad #Eficiencia #Proficiente #AprendeConAxel #Venta #Negocio ♬ sonido original - Axel Jutoran

La cual se refiere a la capacidad de comprender y predecir, las acciones, creencias, emociones, intenciones o conocimientos de las personas que se encuentran alrededor, así como la habilidad de comprender su propio estado mental, de acuerdo con la página de la Universidad Internacional de La Rioja.

Para esto, Michal Kosinski utilizó los modelos GPT-3.5 y GPT-4 de OpenAI y descubrió que utilizan técnicas análogas al pensamiento real que antes se consideraba propias de los mamíferos, lo que los deja más cerca de igualar las capacidades humanas, según ‘Wired’.

Aunque el sistema informático no puede interpretar correctamente lo que piensan los s, sus experimentos demostrarían que GPT-4 tiene una capacidad similar a la teoría de la mente que puedo surgir "como un subproducto no intencionado de la mejora de las habilidades lingüísticas de los LLM”, explicó para el medio mencionado.

(De interés: Las palabras que utilizan las personas más mentirosas, según la IA).

@biancarrera1 Ig:biancarrera #inteligenciaartificial #ia #ai ♬ sonido original - Bian Carrera★

Esto quiere decir que podría surgir una “IA más poderosa y socialmente hábil” y, aunque sus creadores las estarían entrenando para manejar el lenguaje, “en realidad entrenarían un modelo de mente humana, porque no se puede predecir qué palabra voy a decir a continuación sin modelar mi mente".

Cabe destacar que estas aplicaciones presentan algunas fallas que podrían descartar la teoría de la mente, pero pueden surgir “otras habilidades” que les permitiría “ser mejores educándonos, influyéndonos y manipulándonos”, lo que le genera una preocupación al polaco que asegura no estamos preparados para esto.

Finalizó explicando que "Los LLM pueden tener cierta capacidad de razonamiento, pero no es completa ni robusta como la de los humanos; no podemos afirmar que los modelos lingüísticos tengan la misma capacidad que las personas. Y podría ser que simplemente hicieran trampas".