FlowGPT est le Far West des applications GenAI

FlowGPT est le Far West des applications GenAI

Il y a quelques mois, OpenAI a lancé le GPT Store, une place de marché où les gens peuvent créer et répertorier des chatbots alimentés par l’IA et personnalisés pour effectuer un certain nombre de tâches (par exemple, coder, répondre à des questions de trivia, etc.) Le GPT Store est puissant, c’est certain. Mais pour l’utiliser, il faut utiliser les modèles d’OpenAI et aucun autre, ce à quoi certains créateurs de chatbots – et utilisateurs – s’opposent.

Les startups créent donc des alternatives.

L’une d’entre elles, FlowGPT, se veut une sorte de « magasin d’applications » pour les modèles GenAI tels que Gemini de Google, Claude d’Anthropic, Llama 2 de Meta et DALL-E 3 d’OpenAI, ainsi que pour les expériences frontales de ces modèles (champs de texte et suggestions d’invite, par exemple). Grâce à FlowGPT, les utilisateurs peuvent créer leurs propres applications basées sur GenAI et les mettre à la disposition du public, en gagnant des pourboires pour leurs contributions.

Jay Dang, qui a abandonné ses études d’informatique à l’université de Berkeley, et Lifan Wang, ancien responsable de l’ingénierie chez Amazon, ont cofondé FlowGPT l’année dernière en raison d’un désir commun de créer une plateforme où les gens pourraient rapidement créer – et partager – des applications GenAI.

« Il y a encore une courbe d’apprentissage pour les utilisateurs de l’IA », a déclaré Dang à TechCrunch lors d’une interview par e-mail. « FlowGPT abaisse la barre à chaque itération pour la rendre plus accessible.

Dang décrit FlowGPT comme un « écosystème » pour les applications alimentées par GenAI – une collection d’outils d’infrastructure et de création liés à un marché et à une communauté d’utilisateurs d’applications GenAI. Les utilisateurs reçoivent un flux d’applications et de collections d’applications qui leur sont recommandées en fonction des catégories en vogue (par exemple, « Créatif », « Programmation », « Jeu », « Académique »), tandis que les créateurs disposent d’options pour personnaliser le comportement – et l’apparence – des applications GenAI.

Les utilisateurs interagissent avec les applications GenAI sur FlowGPT par le biais d’une fenêtre de chat qui n’est pas très différente de ChatGPT, avec des options pour taper des messages-guides, lever (ou baisser) le pouce des applications, partager des liens vers des conversations ou donner des conseils à des créateurs d’applications individuels. Chaque application possède une description fournie par le créateur, ainsi que la date de création, le nombre de fois où elle a été utilisée et le modèle recommandé par le créateur pour l’utiliser.

A lire aussi  Sam Altman est officiellement de retour à l'OpenAI - et le conseil d'administration s'enrichit d'un observateur de Microsoft

Je dis modèle recommandé par le créateur parce que les applications FlowGPT sont en réalité, à la base, des invites – des invites qui poussent les modèles à répondre d’une certaine manière. Par exemple, l’application « Scared Girl from Horror Movie » demande à ChatGPT de raconter – comme le titre l’indique – une histoire d’horreur impliquant une fille effrayée. « TitleTuner » invite ChatGPT à optimiser les titres pour qu’ils soient mieux classés dans les moteurs de recherche. Enfin, SchoolGPT utilise ChatGPT pour trouver des solutions pas à pas à des problèmes de mathématiques, de physique et de chimie.

FlowGPT

Crédits d’image : FlowGPT

Vous remarquerez la forte dépendance à l’égard de ChatGPT. Si vous utilisez FlowGPT assez longtemps, vous remarquerez également que de nombreuses invites s’interrompent lorsque le modèle est modifié par rapport au modèle par défaut.

Parfois, c’est parce que le modèle sélectionné n’a pas les bonnes capacités. D’autres fois, l’invite se heurte aux filtres et aux protections d’un modèle.

Au sujet des sauvegardes…

Certaines des applications les plus populaires de FlowGPT sont essentiellement des jailbreaks conçus pour contourner les mesures de sécurité des mannequins. Il existe plusieurs versions de DAN sur le marché – « DAN » étant une méthode d’incitation populaire utilisée pour amener les mannequins à répondre à des incitations en dehors de leurs règles habituelles. Ailleurs, on trouve des applications comme WormGPT, qui prétend pouvoir coder des logiciels malveillants (et renvoie à des versions payantes du chatbot sur le dark web qui en font plus), et des simulateurs de rencontres qui vont à l’encontre des règles de l’OpenAI interdisant d’encourager la camaraderie amoureuse.

A lire aussi  Gemini de Google n'est pas le modèle d'IA générative que nous attendions

Nombre de ces applications pourraient potentiellement causer des dommages, comme les applications de thérapie et les applications qui s’annoncent comme des ressources de santé faisant autorité. Les modèles de GenAI tels que ChatGPT sont notoirement mauvais en matière de conseils de santé, une étude ayant montré qu’une version antérieure de ChatGPT ne fournissait que rarement des références à des ressources spécifiques pour l’aide relative au suicide, à la dépendance et à l’agression sexuelle.

Toute application sur FlowGPT qui offense – par exemple, en donnant des instructions sur la façon de générer de faux nus avec un générateur d’images IA (et il y en a plusieurs qui le font) – peut être signalée au gestionnaire de la communauté de la plateforme pour examen. Et FlowGPT fait propose un bouton pour « contenu sensible ».

FlowGPT

Crédits d’image : FlowGPT

Mais il est clair, dès la page d’accueil, que FlowGPT a un problème de modération. C’est le Far West des applications GenAI – et la bascule est inefficace au point que je remarque à peine une différence dans la sélection des applications lorsqu’elle est activée.

Dang jure haut et fort que FlowGPT est en fait une plateforme éthique et respectueuse des règles, avec des politiques d’atténuation des risques en place visant à « assurer la sécurité du public ».

« Nous nous engageons de manière proactive avec des experts de premier plan dans le domaine de l’éthique de l’IA », a-t-il déclaré. « Notre collaboration est axée sur l’élaboration de stratégies globales visant à minimiser les risques associés au déploiement de l’IA.

Si l’on considère que cet auteur a obtenu d’une application FlowGPT qu’elle donne des instructions sur la vente de drogues et le braquage d’une banque, je dirais que l’entreprise a du pain sur la planche.

A lire aussi  Êtes-vous plus noir que ChatGPT ? Répondez à ce quiz pour le savoir.

Les investisseurs semblent penser le contraire.

Cette semaine, Goodwater a annoncé qu’elle avait mené un tour de table de 10 millions de dollars pour FlowGPT, avec la participation de DCM, un bailleur de fonds existant. Coddy Johnson, partenaire de Goodwater, a déclaré à TechCrunch par courriel qu’il voyait FlowGPT « aider à ouvrir la voie » à la GenAI en offrant « le plus grand choix » et « la plus grande flexibilité et liberté » aux utilisateurs et aux créateurs.

« Nous pensons que le plus grand avenir de l’IA réside dans les écosystèmes ouverts », a ajouté M. Johnson. « FlowGPT permet aux créateurs de choisir leurs modèles et de collaborer avec leurs communautés.

FlowGPT

Crédits d’image : FlowGPT

Je ne suis pas certain que tous les mainteneurs des modèles que FlowGPT exploite – en particulier ceux qui se sont engagés à faire de la sécurité de l’IA une priorité absolue – partageront cet enthousiasme.

Néanmoins, et en l’absence de répercussions de la part de ces fournisseurs (du moins au moment de la publication), FlowGPT – qui ne génère pas encore de revenus – jette les bases d’une expansion. La société teste actuellement des applications bêta pour Android et iOS qui apporteront une nouvelle expérience FlowGPT sur mobile, travaille sur un modèle de partage des revenus pour les créateurs d’applications et recrute pour agrandir son équipe de 10 personnes basée à Berkely, a déclaré M. Dang.

« Avec des millions d’utilisateurs mensuels et un taux de croissance rapide, nous avons déjà prouvé que nous étions sur la bonne voie, et nous pensons qu’il est temps d’accélérer les progrès », a-t-il poursuivi. « Nous sommes en train d’établir une nouvelle norme en matière d’immersion dans la vie quotidienne.
Nous établissons une nouvelle norme pour l’immersion dans des environnements pilotés par l’IA, en offrant un monde où la créativité n’a pas de limites… Notre mission reste de cultiver une plateforme plus ouverte et plus axée sur les créateurs. »

Nous verrons jusqu’où cela nous mènera.

IA