Amazon lance un générateur d’images, rejoignant ainsi les rangs des très nombreux autres géants de la technologie et startups qui l’ont déjà fait.
Au cours d’une keynote à sa conférence re:Invent ce matin, Amazon a présenté Titan Image Generator, qui est maintenant disponible en avant-première pour les clients AWS sur Bedrock, la plateforme de développement de l’IA d’Amazon. Titan Image Generator, qui fait partie de la famille Titan de modèles d’IA générative d’Amazon, peut créer de nouvelles images (à partir d’une description textuelle) ou personnaliser des images existantes.
« Vous pouvez utiliser le modèle pour remplacer facilement un arrière-plan (d’image) existant par un arrière-plan de forêt tropicale (par exemple) », a déclaré Swami Sivasubramanian, vice-président des services de données et d’apprentissage automatique chez AWS, sur scène. « (Et vous) pouvez utiliser le modèle pour permuter de manière transparente les arrière-plans afin de générer des images de style de vie, tout en conservant le sujet principal de l’image et en créant quelques options supplémentaires. »
Amazon affirme que Titan Image Generator a été entraîné sur un « ensemble diversifié de données » dans un « large éventail de domaines » et peut être affiné en option sur des ensembles de données personnalisés, et comprend des mesures intégrées d’atténuation de la toxicité et de la partialité. (En l’absence de tests, l’efficacité de ces mesures d’atténuation n’est pas encore établie, bien entendu). L’entreprise a toutefois refusé de dire exactement d’où provenaient ces ensembles de données – et si elle a obtenu l’autorisation de tous les créateurs des images utilisées pour entraîner Titan Image Generator ou si elle les dédommage.
Crédits d’image : AWS
Certaines entreprises qui développent des générateurs d’images, comme Stability AI et – depuis quelques mois – OpenAI, permettent aux créateurs de se retirer des ensembles de données d’entraînement s’ils le souhaitent. D’autres, comme Adobe et Getty Images, mettent en place des systèmes de rémunération pour les créateurs, même s’ils ne sont pas toujours bien payés ou transparents.
M. Sivasubramanian a toutefois affirmé sur scène qu’Amazon protégerait les clients accusés d’avoir violé des droits d’auteur avec des images générées par Titan Image Generator, conformément à sa politique d’indemnisation en matière d’IA. Voilà qui ne manquera pas de réjouir les clients d’AWS qui s’inquiètent de la régurgitation, c’est-à-dire du fait qu’un modèle génératif produit une copie conforme d’un exemple d’apprentissage.
Dans une récente enquête menée par Acrolinx auprès d’entreprises du classement Fortune 500, près d’un tiers d’entre elles ont déclaré que la propriété intellectuelle était leur plus grande préoccupation en ce qui concerne l’utilisation de l’IA générative. Un autre sondage a révélé que neuf développeurs sur dix « prennent fortement en compte » la protection de la propriété intellectuelle lorsqu’ils décident d’utiliser ou non l’IA générative.
Images générées à l’aide du générateur d’images Titan d’AWS. Crédits images : AWS
« Nous choisissons avec soin la manière dont nous formons nos modèles et les données que nous utilisons à cette fin », a-t-il déclaré. « Grâce à ces investissements, nos clients auront la possibilité de sélectionner les modèles les mieux adaptés à leurs besoins, même si ceux-ci évoluent et se développent. »
Les images créées avec Titan Image Generator seront également dotées par défaut d’un filigrane invisible « infalsifiable », afin d’atténuer la propagation de la désinformation générée par l’IA et de l’imagerie abusive, selon M. Sivasubramanian. (Les « deepfakes » de la guerre de Gaza et les images de maltraitance d’enfants générées par l’IA sont les dernières illustrations de l’ampleur de la menace). On ne sait pas exactement quel type de technique de filigrane Amazon utilise et quels outils autres que l’API d’Amazon seront en mesure de le détecter ; nous avons contacté Amazon pour obtenir des éclaircissements.
M. Sivasubramanian a fait remarquer que les filigranes font partie de l’engagement volontaire sur l’IA qu’Amazon a signé avec la Maison Blanche en juillet. D’autres signataires, dont Google et Microsoft, ont adopté le système Content Credentials développé par la Coalition for Content Provenance and Authenticity ou ont développé leurs propres solutions.
