Bien avant que Washington n’interdise à Nvidia d’exporter des processeurs graphiques haute performance vers la Chine, les géants de la technologie du pays les avaient accumulés en prévision d’une escalade de la guerre technologique entre les deux pays.
Baidu, l’une des entreprises technologiques qui construisent les homologues chinois d’OpenAI, a obtenu suffisamment de puces d’IA pour continuer à entraîner son équivalent de ChatGPT, Ernie Bot, pendant « l’année ou les deux prochaines années », a déclaré le PDG de l’entreprise, Robin Li, lors d’une conférence téléphonique sur les résultats cette semaine.
« De plus, l’inférence nécessite des puces moins puissantes, et nous pensons que nos réserves de puces, ainsi que d’autres alternatives, seront suffisantes pour prendre en charge de nombreuses applications natives de l’IA pour les utilisateurs finaux », a-t-il déclaré. « À long terme, les difficultés rencontrées pour acquérir les puces les plus avancées ont inévitablement un impact sur le rythme de développement de l’IA en Chine. C’est pourquoi nous recherchons proactivement des solutions de remplacement. »
D’autres entreprises technologiques chinoises aux poches profondes ont également pris des mesures proactives en réponse aux contrôles des exportations américaines. Baidu, ByteDance, Tencent et Alibaba ont collectivement commandé environ 100 000 unités de processeurs A800 de Nvidia à livrer cette année, ce qui leur a coûté jusqu’à 4 milliards de dollars, a rapporté le Financial Times en août. Ils ont également acheté pour 1 milliard de dollars de GPU dont la livraison est prévue en 2024.
Des investissements initiaux aussi lourds pourraient facilement dissuader de nombreuses startups de se lancer dans la course au LLM. Il existe toutefois des exceptions si la jeune entreprise parvient à obtenir rapidement des investissements importants. 01.AI, fondée fin mars par l’éminent investisseur Kai-Fu Lee, a acquis un nombre important de puces d’inférence de haute performance grâce à des prêts et a déjà remboursé sa dette après avoir levé des capitaux qui l’ont évaluée à 1 milliard de dollars.
Avec sa réserve de GPU, Baidu a récemment lancé l’Ernie Bot 4, qui, selon Li, « n’est en rien inférieur au GPT-4 ».
Il est difficile de classer les LLM en raison de la complexité même de ces modèles d’IA. De nombreuses entreprises chinoises spécialisées dans l’IA ont eu recours à l’amélioration de leur classement en remplissant avec diligence les critères des tableaux LLM, mais l’efficacité de ces modèles lorsqu’ils sont appliqués à des applications réelles n’a pas encore été jugée.
Les petits acteurs de l’IA, qui n’ont pas les liquidités nécessaires pour accumuler des puces, devront se contenter de processeurs moins puissants qui ne sont pas soumis aux contrôles d’exportation américains. Ils peuvent aussi attendre d’éventuelles opportunités d’acquisition. M. Li estime qu’en raison d’une confluence de facteurs, notamment la rareté des puces avancées, la forte demande de données et de talents en matière d’IA et les investissements initiaux considérables, l’industrie entrera bientôt dans une « phase de consolidation ».