La IA es una de las tecnologías más innovadoras que existen, y ya está presente en casi todo lo que hacemos. Últimamente hemos visto a compañías como Microsoft y Google invertir en ella y, como no podía ser de otra forma, NVIDIA ha invertido en el sector. Si te interesa seguir de cerca los avances de la Inteligencia Artificial de NVIDIA, hoy aprenderás cómo puedes usar el chatbot Chat with RTX de la empresa y sus características.
Chat with RTX es el nombre que le han dado a este chatbot que pretende conquistar nuevas fronteras de interacción con los usuarios. NVIDIA comenta que fue diseñado para hacernos las cosas más sencillas, facilitando que obtengamos información a partir de fuentes externas y bases de datos. Vamos, como ChatGPT.
La relación entre NVIDIA y la IA no es nueva. El auge de ChatGPT y la creciente demanda de GPUs an hecho que ésta sea una de las corporaciones con acciones más rentables para los inversores a lo largo de 2023 y 2024.
¿Qué es y cómo funciona el chatbot Chat with RTX de NVIDIA?
El Chat with RTX es una plataforma de IA que se sirve de una GPU NVIDIA GeForce RTX serie 30 o modelos superiores ero siempre con un mínimo de 8 GB de VRAM. Así, proporciona a los usuarios un chatbot personalizable.
¿En qué se distingue de ChatGPT? La diferencia es que el de NVIDIA se ejecuta en TensorRT-LLM y RAG mientras que el de OpenAI se ejecuta en arquitectura GPT. Por lo demás, las experiencias son iguales.
TensorRT-LLM genera respuestas rápidamente y, a su vez, permite una mayor personalización de las contestaciones. Por su parte, gracias a RAG los usuarios pueden esperar que el chatbot no solo genere esas respuestas sino que recupere información de una base de datos o fuentes externas, algo que ChatGPT no logra hacer -de momento-.
Eso sí, para conseguir correr el chatbot Chat with RTX de NVIDIA tendrás que cumplir ciertos requisitos técnicos. Tendrás que tener una GPU RTX, 16 GM RAM, 100 GB de almacenamiento y Windows 11. ChatGPT es menos exigente en este sentido, por lo que es una solución apta para el público que no cumple con esos requisitos.
¿Cómo instalar el chatbot de NVIDIA paso a paso?
- Descarga el archivo ZIP de Chat with RTX desde la web oficial de NVIDIA o desde este enlace
- Haz click en el botón Descargar ahora. Haz click derecho para extraer el archivo de instalación
- Luego de extraerlo, haz doble click en él para ejecutarlo. Sigue las indicaciones en la pantalla
- Completada la instalación, haz click en Cerrar y listo, ya podrás aprovechar el nuevo chatbot
Como puedes ver, se trata de un procedimiento bastante simple y que no te llevará más que unos pocos minutos.
¿Qué se puede hacer con este chatbot? ¡Utilízalo como asistente!
Formar carpetas RAG
Puedes crear carpetas para organizar archivos para analizar. La generación mejorada por recuperación, o RAG, es el proceso de la salida de un modelo lingüístico de gran tamaño, para que haga referencia a una base de conocimientos autorizada fuera de los orígenes de datos de entrenamiento antes de generar alguna respuesta.
Llena la carpeta con los archivos de datos que deben ser analizados por la IA (y recuerda que puedes incluir una amplia gama de tipos de archivos y documentos. Amén de ello, puedes incluir PDF, texto y vídeos, entre otros). Para que el funcionamiento del chatbot sea óptimo, es conveniente que no exageres en cuanto a las cantidades.
Configurar el entorno
Ya configurado el proceso inicial, ve a la pestaña Conjunto de datos, a la opción Ruta de la carpeta y luego haz click en el icono Editar. Ahora debes seleccionar la carpeta que debe leer la IA para que genere respuestas a partir de ello.
Hacer consultas
Con todo listo, puedes hacer tus primeras consultas al chatbot Chat with RTX de NVIDIA. Puedes aprovecharlo tanto como un chatbot de IA normal como siendo tu propio asistente personal con IA. La clave está en mantener siempre actualizados los archivos y documentos de los que pretendemos que pueda generar las respuestas a la consulta.
En caso de que tus hijos consulten el chatbot, como padre debes preocuparte por el riesgo de la Inteligencia Artificial.
¿Tienes alguna pregunta o problema relacionado con el tema del artículo? Queremos ayudarte.
Deja un comentario con tu problema o pregunta. Leemos y respondemos todos los comentarios, aunque a veces podamos tardar un poco debido al volumen que recibimos. Además, si tu consulta inspira la escritura de un artículo, te notificaremos por email cuando lo publiquemos.
*Moderamos los comentarios para evitar spam.
¡Gracias por enriquecer nuestra comunidad con tu participación!