El nuevo chatbot con IA de NVIDIA se ejecuta localmente en tu PC

El nuevo chatbot con IA de NVIDIA se ejecuta localmente en tu PC


NVIDIA acaba de lanzar un de un chatbot que Esto es bastante bueno, ya que le da al chatbot acceso a sus archivos y documentos. Puede proporcionar a Chat with RTX una selección de datos personales y hacer que cree resúmenes basados ​​en esa información. También puedes hacerle preguntas, como cualquier chatbot, y se sumergirá en tus datos en busca de respuestas.

La compañía dice que permite a los usuarios «conectar rápida y fácilmente archivos locales en una PC como un conjunto de datos a un modelo de lenguaje grande de código abierto como Mistral o Llama 2». NVIDIA da un ejemplo de un usuario que pregunta al chatbot sobre un restaurante que su socio le recomendó mientras estaba en Las Vegas. El software escanea archivos locales para encontrar la respuesta. Admite una gran cantidad de formatos de archivo, incluidos .txt, .pdf, .doc/.docx y .xml. La compañía dice que cargará archivos relevantes en su conjunto de datos «en segundos».

Chat with RTX también integra vídeos y listas de reproducción de YouTube. Puede agregar una URL de video al conjunto de datos e integrará el conocimiento contenido en el clip para consultas contextuales. NVIDIA dice que esto será útil cuando solicite recomendaciones de viajes «basadas en el contenido de los videos de influencers favoritos» o cuando busque tutoriales y resúmenes derivados de recursos educativos.

El borde con el chatbot y quedaron impresionados y escribieron que podían verlo como «una parte valiosa de la investigación de datos para periodistas o cualquier persona que necesite analizar una colección de documentos».

Esto suena como un gran paso hacia algo parecido a un asistente digital real que funcione dentro del marco contextual de sus datos personales. Con la mayoría de los chatbots, los datos se envían a la nube, pero Chat with RTX «permite a los usuarios procesar datos confidenciales en una PC local sin la necesidad de compartirlos con un tercero o tener una conexión a Internet». Entonces es más seguro y más consciente del contexto.

Hay algunas limitaciones. Este es un producto de demostración, por lo que debería esperar muchos errores, aunque NVIDIA debería comenzar a corregirlos una vez que los usuarios comiencen a emitir informes de errores y similares. Aquí también existen algunas limitaciones estrictas de hardware. El chat con RTX solo funciona en PC con Windows con GPU NVIDIA GeForce RTX serie 30 o superior y al menos 8 GB de VRAM.

NVIDIA realmente ha estado mostrando su destreza en IA últimamente, ya que la compañía acaba de lanzar su próxima generación de . Es debido principalmente a los segmentos de centros de datos y inteligencia artificial de la empresa.

Este artículo contiene enlaces de afiliados; Si hace clic en dicho enlace y realiza una compra, podemos ganar una comisión.



Fuente: engadget.com

Deja una respuesta

*

Esta web utiliza cookies propias y de terceros para su correcto funcionamiento y para fines analíticos y para fines de afiliación y para mostrarte publicidad relacionada con sus preferencias en base a un perfil elaborado a partir de tus hábitos de navegación. Contiene enlaces a sitios web de terceros con políticas de privacidad ajenas que podrás aceptar o no cuando accedas a ellos. Al hacer clic en el botón Aceptar, acepta el uso de estas tecnologías y el procesamiento de tus datos para estos propósitos. Más información
Privacidad