All the RAM are belong to me
Internet a une nouvelle tête de Turc depuis quelques jours : Sam Altman. Il a en effet affirmé dans une interview que la RAM des ordinateurs des particuliers serait bien plus utile dans les centres de données IA. Alors que les coûts de la mémoire font flamber les prix des appareils électroniques, une telle déclaration a effectivement de quoi échauffer les esprits… même si le patron d’OpenAI parlait surtout de l’IA en local.
La crise de la mémoire fait mal au portefeuille des utilisateurs de PC, de smartphones, de consoles et plus généralement de tout appareil électronique nécessitant de la RAM ou du stockage. On se fait régulièrement l’écho ici de la valse des étiquettes due à l’appétit vorace des grands acteurs de l’IA pour la mémoire et le stockage nécessaires à leurs centres de données.
Des miettes de mémoire pour les PC
La demande est telle que les principaux fabricants de mémoire (Micron, SK Hynix, Samsung) font turbiner leurs lignes de production plein pot pour étancher la soif des clients IA, notamment de la HBM (mémoire à large bande passante). Tout pour les data-centers, des miettes pour le reste du monde. Une pénurie qui entraîne logiquement une forte hausse des prix pour les composants DRAM et SSD. Malheureusement, le phénomène ne va pas s’arrêter dans les prochains mois ; les observateurs du marché s’accordent à dire que la situation pourrait plutôt empirer.
- Le marché des PC dégringole de 20 % au troisième trimestre sur un an
- Les smartphones pas chers paient le prix fort de la crise de la mémoire
Dans ce contexte, la petite phrase de Sam Altman a effectivement de quoi faire bondir. « Si l’on raisonne à l’échelle mondiale, en termes de répartition des ressources, c’est en réalité une très mauvaise chose que chacun immobilise dans son ordinateur une partie des réserves limitées de DRAM de la planète, pour ne l’utiliser que 5 % du temps », a ainsi affirmé le patron d’OpenAI au podcast Cheeky Pint.
Il ajoute : « Dans un contexte où l’offre est aussi contrainte, il faut maximiser le taux d’utilisation dans le cloud. Et pourtant, beaucoup de gens ont l’intuition inverse. » Évidemment, à une époque où l’achat de la moindre barrette implique de vendre un organe, cette déclaration a immédiatement été comprise comme : « Votre RAM serait plus utile dans un centre de données IA, et si possible d’OpenAI ».
Les ordinateurs ont une vie en dehors de l’IA
Mais le contexte est important : dans le podcast Cheeky Pint, Altman prenait l’exemple de l’inférence en local, autrement dit les modèles à poids ouverts que l’on fait tourner sur son PC en opposition aux centres de données qui posent tant de problèmes économiques et environnementaux. « Beaucoup de gens veulent faire tourner l’IA sur leur propre machine. Et ils supposent, en quelque sorte, que le problème est désormais résolu : nous allons avoir des modèles open source, nous pourrons les faire tourner sur nos ordinateurs et nous n’aurons donc plus besoin de toutes ces infrastructures dans les centres de données », explique-t-il.
Son raisonnement peut se tenir sur un point : dans le cloud, une même capacité de mémoire peut servir successivement à plusieurs utilisateurs, plutôt que d’être réservée à un modèle d’IA local lancé à l’occasion. Mais présenter la RAM des ordinateurs personnels comme une ressource mondiale mal répartie pour l’inférence ne revient pas à dire qu’elle est inutile le reste du temps. Après tout, un PC sert aussi et surtout à travailler sur des logiciels en tout genre, à jouer, à naviguer sur internet…
Il y a probablement une once de vérité dans la caricature qui dépeint Sam Altman comme déconnecté de la réalité : certaines de ses positions publiques ne plaident pas en sa faveur. Il avait ainsi suggéré de faire écouter aux enfants des podcasts générés par ChatGPT pendant les trajets vers l’école, ce qui avait suscité pas mal de réactions ironiques : « Et si vous parliez simplement à vos enfants ? », avait ainsi répliqué Alex Hirsch, le créateur de la série animée Gravity Falls.
