3 annonces des US sur le hardware qui confirment que la vague IA n'est pas une mode : le Jetson Orin Nano Super de Nvidia, Willow, la puce quantique de Google et les 300 000 futures GPUs du Collossus d'Elon Musk.
L'annonce qui nous concerne, à court terme est le lancement d'un ordinateur optimisé pour l'IA à $249: le Jetson Orin Nano Super de Nvidia.
C'est un boîtier qui est censé faire tourner des applications reposant sur de petits LLMs open source comme Mistral 7B ou Llama 3.1 8B, fine-tunés ou avec un RAG, c'est à dire des ChatGPT 100% privés permettant de générer des textes ou de réaliser des recherches à partir des documents confidentiels d'une entreprise qu'elle ne souhaiterait stocker dans le cloud ou envoyer aux API d'OpenAI ou Google.
Développeurs, étudiants, start-ups vont pouvoir inventer de nouvelles applications pour les PME, jusqu'ici accessibles aux grandes entreprises.
Grosses économies de fonctionnement, puisque cet ordinateur IA, permet de se passer des coûteux appels aux API commerciales.
Au delà de cela, le Jetson Orin Nano Super est aussi destiné à faire fonctionner le coeur de robots autonomes ou de systèmes de vidéo surveillance intelligents et tout cela en local, sans connexion à internet et, donc, de façon sécurisée.
Demain, on pourrait même imaginer que Nvidia sorte un autre modèle, plus cher, qui permette de faire tourner le dernier LLM de Meta, Lllama 3.3 70B qui annonce des performances similaires à celle GPT4, cà c'est à dire éligible à la plupart des application d'entreprises reposant sur des LLMs.
A l'autre bout du spectre technologique, Google a annoncé, non pas un produit, mais une étape dans la recherche Quantique avec la mise au point de Willow, une puce quantique qui serait parvenue à réaliser, en quelques minutes, un calcul qui aurait pris 10 000 000 000 000 000 000 000 000 000 ans à un ordinateur puissant reposant sur les technologies actuelles.
On ne sait pas trop ce que cela représente, sauf que l'on est censé accepter qu''une étape importante dans la recherche a été franchie, qui pourrait, dans l'hypothétique, s'avérer décisive pour les applications de l'IA relative à la recherche médicale ou la fusion nucléaire.
On parle au conditionnel car la technologie quantique est loin d'avoir démontrer sa viabilité et sa capacité à déboucher sur des applications professionnelles.
Entre le petit Jetson Orin Nano Super de Nvidia et la puissante Willow, une autre annonce m'a interpellé: Elon Musk a annoncé une giga commande de 9 milliards de dollars de 300 000 puces IA à Nvidia, afin d'augmenter encore la puissance de Collossus, un super calculateur reposant déjà 100 000 puces.
Ce super calculateur, non seulement, permettrait à Grok, le LLM/Chatbot de xAI de dépasser Claude ou GPT5, mais aussi d'atteindre l'objectif qu'Elon Musk poursuivait en cofondant OpenAI en 2015: créer tous les modules d'une AGI.
--
Je suis Raphaël Richard, je décode tous les jours l'IA, ses technologies et ses applications
