Chat with RTX, la herramienta de Nvidia para personalizar un chatbot sin Internet

Esta herramienta mejora significativamente la precisión y la confiabilidad de los modelos de IA.

PERIODISTA15.02.2024 12:39 Actualizado: 15.02.2024 13:54

Comentar

En una notable expansión del sector de los chatbots, Nvidia ha presentado una innovación que promete transformar la interacción digital.

(Lea también: A falta de 'buenos hombres', mujeres en China buscan novios hechos con IA).

La herramienta, denominada 'Chat with RTX', se perfila como una solución avanzada para la personalización de asistentes conversacionales.

Esta tecnología, que se ejecuta localmente en ordenadores con Windows equipados con tarjetas gráficas GeForce RTX de la Serie 30, marca un hito en el uso de la inteligencia artificial (IA) generativa para la creación de chatbots personalizados.

Create a personalized chatbot with the Chat with RTX tech demo. #AIonRTX

Quickly get tailored info from your own files and content by connecting your data to an LLM on RTX-Powered PCs for local, fast, generative AI.

demo here: https://t.co/jcWr2a3lCG pic.twitter.com/qgWbOlnoX5
— NVIDIA Studio (@NVIDIAStudio) February 13, 2024

Innovación y privacidad

Chat with RTX se distingue por incorporar la técnica de generación de recuperación aumentada (RAG), que junto al software TensorRT-LLM de Nvidia y la aceleración NVIDIA RTX, mejora significativamente la precisión y la confiabilidad de los modelos de IA.

Esta herramienta permite a los s crear asistentes virtuales que pueden manejar consultas en un formato conversacional, similar a soluciones ya conocidas como Copilot, Gemini o ChatGPT.

Una de las características más destacadas de Chat with RTX es su capacidad para itir distintos formatos de texto y la posibilidad de integrar 'urls' de vídeos de YouTube para consultas contextuales, ampliando así las fronteras de la interacción mediante chatbots.

(Siga leyendo: Hackers vinculados a gobiernos de Rusia, Corea del Norte e Irán usan ChatGPT).

La ejecución de Chat with RTX en un entorno local ofrece un beneficio adicional de suma importancia: la protección de la privacidad.

Al funcionar en computadoras con Windows 10 u 11 que cumplen con requisitos específicos, como una GPU GeForce RTX de la Serie 30 y al menos 8GB de memoria de aleatorio de vídeo (VRAM), esta herramienta elimina la dependencia de servicios en la nube.

(De interés: Google Meet extiende el modo complementario a Android e iOS).

🚨 BREAKING: Nvidia just released Chat with RTX, an AI chatbot that runs locally on your PC.

It can summarize or search documents across your PC's files and even YouTube videos and playlists.

The chatbot runs locally, meaning results are fast, you can use it without the… pic.twitter.com/je3gzOs45I
— Rowan Cheung (@rowancheung) February 13, 2024

Según se detalla en el blog de noticias de Nvidia, esto permite a los s "procesar datos confidenciales en un PC local sin la necesidad de compartirlos con un tercero o tener una conexión a Internet".

Este enfoque no solo garantiza una experiencia de más segura y personalizada, sino que también abre nuevas posibilidades para el desarrollo de aplicaciones que requieren altos estándares de confidencialidad.

Más noticias en EL TIEMPO

Apple Music, Apple TV y otras apps de la manzana que llegarán a Windows#

Tong Tong, la niña robot de Inteligencia Artificial que tiene ‘emociones’: así funciona

Fluvip y Socialgest anuncian fusión para potenciar el marketing digital

*Este contenido fue reescrito con la asistencia de una inteligencia artificial, basado en la información publicada por Europa Press, y contó con la revisión de la periodista y un editor.

Sigue toda la información de Tecnología en Facebook y X, o en nuestra newsletter semanal.