NVIDIA, leader mondial des technologies d’intelligence artificielle, vient de dévoiler une mise à jour majeure de son chatbot expérimental ChatRTX. Grâce à l’intégration de nouveaux modèles de langage avancés et de capacités étendues, ChatRTX promet de transformer votre PC équipé d’un GPU RTX en un puissant assistant IA personnalisé. Celui-ci sera capable d’analyser vos données locales et de répondre à vos questions de manière pertinente et contextuelle.

ChatRTX : votre propre ChatGPT en local sur votre PC

ChatRTX vous permet de configurer un chatbot IA alimenté par de grands modèles de langage (LLM) et connecté à vos propres données (documents, notes, photos, etc). Tout cela s’exécute localement sur votre PC Windows équipé d’une carte graphique NVIDIA RTX série 30 ou 40 avec au moins 8 Go de VRAM.

Les avantages de cette approche locale sont multiples :

• Confidentialité renforcée : vos données restent sur votre machine, pas besoin de les envoyer dans le cloud
• Rapidité d’exécution : pas besoin d’une connexion internet, tout se fait en local sur votre GPU RTX
• Personnalisation poussée : vous pouvez entraîner le chatbot sur vos propres contenus pour des réponses ultra-pertinentes

ChatRTX s’appuie sur des technologies avancées. Parmi celles-ci, a génération augmentée par récupération (RAG), l’accélération TensorRT-LLM et la puissance des GPU RTX pour offrir une expérience de chat IA fluide et performante. Le tout fonctionne dans une interface simple et intuitive.

Une palette de modèles IA élargie pour des possibilités décuplées

Avec cette nouvelle mise à jour, ChatRTX intègre désormais une gamme élargie de modèles de langage puissants :

• Mistral et Llama 2 : des LLM open-source performants, déjà supportés auparavant
• ChatGLM3 : un modèle bilingue anglais-chinois permettant des interactions dans ces deux langues
• CLIP d’OpenAI : génère des descriptions à partir d’images et inversement, pour interagir avec vos photos
• Gemma de Google : un modèle conçu en collaboration avec NVIDIA pour un fonctionnement optimal sur PC

Grâce à cette palette de modèles, ChatRTX peut analyser une grande variété de données : documents texte, PDF, images, et même résumer des vidéos YouTube ! Il vous suffit de pointer l’application vers le dossier contenant vos fichiers, et elle les chargera en quelques secondes. Elle sera ensuite prête à répondre à vos requêtes de manière pertinente en s’appuyant sur le contexte.

Interagir avec ChatRTX à la voix grâce à Whisper

Une autre nouveauté majeure de cette mise à jour est l’intégration de Whisper. Il s’agit du modèle de reconnaissance et transcription vocale d’OpenAI. Vous pourrez ainsi discuter avec ChatRTX à la voix, lui poser des questions oralement, et il vous répondra à l’écrit.
Cette fonctionnalité ouvre la voie à de nouvelles interfaces conversationnelles plus naturelles et accessibles. Plus besoin de taper au clavier,. Il vous suffit en effet de parler à votre assistant IA comme vous le feriez avec un humain. ChatRTX analyse votre voix et transcrit vos paroles en texte. ensuite, il énère une réponse pertinente en s’appuyant sur les données fournies, et l’affiche à l’écran.

Des outils pour les développeurs

En parallèle de ChatRTX destiné aux utilisateurs, NVIDIA propose également des outils pour aider les développeurs. Ceux-ci seront ainsi en mesure de créer leurs propres applications IA s’appuyant sur des LLM :

• NVIDIA AI Workbench : un environnement unifié pour créer, tester et personnaliser facilement des modèles IA génératifs
• TensorRT-LLM : une bibliothèque open-source pour optimiser les performances des LLM et les déployer sur des systèmes RTX
• NVIDIA ACE : des microservices IA pour ajouter des avatars intelligents et des agents conversationnels aux applications

Le code de ChatRTX est d’ailleurs disponible en open-source sur GitHub. Grâce à cela, les développeurs peuvent s’en inspirer et de créer leurs propres applications de chatbot IA optimisées pour les GPU RTX.

Configuration Requise et Astuces d’Installation

Pour profiter de ChatRTX, vous aurez besoin d’un PC sous Windows 10/11 équipé d’une carte graphique NVIDIA GeForce RTX série 30 ou 40 avec au moins 8 Go de VRAM. En outre, il faudra disposer de 100 Go d’espace disque. Les pilotes GPU NVIDIA doivent être à jour.
L’installation peut prendre entre 10 et 30 minutes selon votre connexion internet. L’installateur téléchargera environ 11 Go de bibliothèques logicielles, de données de modèles IA et de fichiers moteur.

Quelques conseils pour une installation réussie :

• Désactivez la mise en veille de votre système pendant l’installation
• Si l’installation échoue, relancez l’installateur, il reprendra là où il s’était arrêté
• En cas d’échec après l’installation de certains composants, sélectionnez “Faire une installation propre” lors de la prochaine tentative
• Évitez les espaces dans le chemin et le nom du dossier d’installation si vous ne choisissez pas l’emplacement par défaut

En résumé

Avec ChatRTX et ses outils pour développeurs, NVIDIA démocratise l’IA générative et conversationnelle sur PC. Les utilisateurs de GPU RTX peuvent désormais profiter d’un assistant IA personnel puissant et personnalisable, qui exploite leurs données locales de manière sécurisée et performante, le tout sans requérir de connexion internet.
L’intégration de nouveaux modèles de langage avancés, la prise en charge des interactions vocales via Whisper, et les possibilités de personnalisation poussée font de ChatRTX un outil révolutionnaire, offrant un aperçu des immenses possibilités de l’IA générative.
Les développeurs ne sont pas en reste, avec des outils comme NVIDIA AI Workbench, TensorRT-LLM et NVIDIA ACE pour créer leurs propres applications IA tirant parti des LLM et des GPU RTX. Le code open-source de ChatRTX leur servira d’exemple et de base pour imaginer les agents conversationnels de demain.
Nul doute que ce n’est que le début, et que NVIDIA continuera d’enrichir ChatRTX et ses outils IA dans le futur. L’intelligence artificielle est en train de transformer profondément de nombreux domaines, et NVIDIA est clairement à la pointe de cette révolution. Avec ChatRTX, la société propose un aperçu saisissant de ce que l’IA générative a à offrir, et de son potentiel pour révolutionner notre façon d’interagir avec les machines et les données. Vivement la suite !