Ce n’est pas seulement Sam Altman qui essaie d’investir de l’argent dans la pénurie de puces IA
Les leaders technologiques à l’avant-garde de la révolution de l’IA sont contraints de faire face à une réalité difficile : ils ne disposent pas de suffisamment de puissance de calcul pour réaliser leurs ambitions.
L’ampleur du problème est devenue claire plus tôt ce mois-ci à la suite d’un rapport du Wall Street Journal selon lequel Sam Altman, patron d’OpenAI cherchait jusqu’à 7 000 milliards de dollars pour financer une entreprise susceptible de stimuler la production de micropuces, connues sous le nom de GPU.
Depuis lors, il est également apparu que le PDG de SoftBank, Masayoshi Son, qui a rencontré Altman à Tokyo l’année dernière, cherchait à lever 100 milliards de dollars pour financer une entreprise de puces nommée Izanagi, du nom de la divinité japonaise de la création, a rapporté Bloomberg.
L’incitation à dépenser autant d’argent en jetons est simple.
Formation des futures versions du grand modèle de langage GPT ou modèle de conversion texte-vidéo Sora devenir toujours plus intelligent dépend d’eux. Il en va de même pour les ambitions plus spéculatives poursuivies par Altman et Son, comme le développement de l’intelligence artificielle générale.
Au niveau technique, la demande de puces est régie par ce que l’on appelle la loi d’échelle, qui, comme le dit Ethan Mollick, professeur à Whartonexplique pourquoi « plus vous consacrez de calculs à l’entraînement d’une IA, mieux c’est ».
Il n’y a qu’un seul problème : l’accès de l’industrie aux puces est limité.
Nvidia, l’un des principaux concepteurs de Puces spécialisées en IA telles que les H100 et A100, a du mal à répondre à la demande. Pendant ce temps, la fabrication de ces modèles est assurée par seulement trois sociétés – TSMC, Samsung et Intel – et toutes ont du mal à répondre à la demande.
Cela a créé une ruée frénétique pour l’approvisionnement dans le secteur technologique.
Mark Zuckerberg s’est fait un devoir le mois dernier de souligner les projets de Meta d’avoir stocké quelque 600 000 jetons d’ici la fin de l’annéealors que le propriétaire d’Instagram travaille à sa vision de construire une « intelligence générale » et de la rendre « largement disponible pour que tout le monde puisse en bénéficier ».
Pendant ce temps, les startups d’IA, qui levé 22,4 milliards de dollars l’année dernière, selon les données de Dealroomont été occupés à collecter des fonds afin de pouvoir consacrer autant d’argent que possible à l’obtention de la puissance de calcul.
Cependant, dans l’état actuel des choses, il n’y a tout simplement pas assez de jetons pour tout le monde.
Il reste à voir comment Altman et Son s’y prennent pour résoudre ce problème. Le plan de plusieurs milliards de dollars d’Altman devrait non seulement trouver des conceptions de puces plus efficaces pour des charges de travail d’IA de plus en plus complexes, mais aussi capacité de fabrication également.
Le patron de SoftBank, quant à lui, a déjà a bénéficié du buzz de l’IA compte tenu de son contrôle majoritaire d’ARM. La valeur de la puce a plus que doublé depuis son introduction en bourse en septembre pour atteindre environ 130 milliards de dollars, dans un contexte d’augmentation de la demande pour les applications d’IA.
Mais les projets annoncés par Son signalent son intention d’investir beaucoup plus dans des segments du secteur des puces dans lesquels ARM n’est pas impliqué.
Si le monde veut une meilleure IA, la seule option est probablement de déclencher l’un des développements matériels les plus importants et les plus coûteux de l’histoire de la technologie.
