Opera permet aux utilisateurs de télécharger et d’utiliser les LLM localement.

Opera permet aux utilisateurs de télécharger et d’utiliser les LLM localement.

Le navigateur web Opera a annoncé aujourd’hui qu’il permettait désormais aux utilisateurs de télécharger et d’utiliser localement les grands modèles linguistiques (LLM) sur leur ordinateur. Cette fonctionnalité est d’abord déployée pour les utilisateurs d’Opera One qui reçoivent les mises à jour du flux des développeurs et permettra aux utilisateurs de choisir parmi plus de 150 modèles de plus de 50 familles.

Ces modèles comprennent Llama de Meta, Gemma de Google et Vicuna. Cette fonctionnalité sera disponible pour les utilisateurs dans le cadre du programme AI Feature Drops d’Opera, qui permet aux utilisateurs d’avoir un accès anticipé à certaines fonctionnalités de l’IA.

La société a déclaré qu’elle utilisait le cadre open-source Ollama dans le navigateur pour exécuter ces modèles sur votre ordinateur. Actuellement, tous les modèles disponibles sont un sous-ensemble de la bibliothèque d’Ollama, mais à l’avenir, l’entreprise envisage d’inclure des modèles provenant de différentes sources.

Crédits d’image : Opéra

L’entreprise a indiqué que chaque variante prendrait plus de 2 Go d’espace sur votre système local. Vous devez donc faire attention à votre espace libre pour éviter de vous retrouver à court d’espace. Il est à noter qu’Opera ne fait rien pour économiser de l’espace lors du téléchargement d’un modèle.

« Opera a maintenant, pour la première fois, fourni un accès à une large sélection de LLM locaux de tierces parties directement dans le navigateur. On s’attend à ce que leur taille diminue au fur et à mesure qu’ils deviennent de plus en plus spécialisés pour les tâches à accomplir », a déclaré Jan Standal, vice-président d’Opera, à TechCrunch.

Crédits d’image : Opéra

Cette fonction est utile si vous envisagez de tester différents modèles localement, mais si vous souhaitez économiser de l’espace, il existe de nombreux outils en ligne tels que Poe et HuggingChat de Quora pour explorer différents modèles.

A lire aussi  Google Colab s'enrichit d'un volet entreprise

Opera s’intéresse depuis l’année dernière à des fonctionnalités basées sur l’intelligence artificielle. La société a lancé un assistant appelé Aria situé dans la barre latérale en mai dernier et l’a introduit dans la version iOS en août. En janvier, Opera a déclaré qu’il construisait un navigateur doté d’une IA avec son propre moteur pour iOS, alors que les Digital Market Acts (DMA) de l’UE ont demandé à Apple de renoncer à l’obligation d’utiliser le moteur WebKit pour les navigateurs mobiles.

IA