Calmara propose de détecter les IST à l’aide de photos des organes génitaux – une idée dangereuse

Calmara propose de détecter les IST à l’aide de photos des organes génitaux – une idée dangereuse

Vous êtes rentré(e) chez vous avec un rendez-vous Tinder et les choses s’enveniment. Vous ne connaissez pas vraiment ce type, vous ne lui faites pas confiance et vous ne voulez pas contracter une IST, alors… que faire maintenant ?

Une société appelée Calmara veut que vous preniez une photo du pénis du gars, puis que vous utilisiez son intelligence artificielle pour vous dire si votre partenaire est « clair » ou non.

Mettons tout de suite les choses au clair : vous ne devriez pas prendre une photo des parties génitales de quelqu’un et la scanner avec un outil d’intelligence artificielle pour décider si vous devez ou non avoir des relations sexuelles.

La prémisse de Calmara comporte plus de signaux d’alarme qu’un mauvais premier rendez-vous, mais la situation devient encore pire si l’on considère que la majorité des IST sont asymptomatiques. Votre partenaire pourrait donc très bien avoir une IST, mais Calmara vous dirait qu’il n’a rien à se reprocher. C’est la raison pour laquelle les tests de dépistage des IST utilisent des échantillons de sang et d’urine pour détecter l’infection, plutôt qu’un examen visuel.

D’autres start-ups répondent au besoin de tests de dépistage des IST accessibles d’une manière plus responsable.

« En ce qui concerne les diagnostics de laboratoire, la sensibilité et la spécificité sont deux mesures clés qui nous aident à comprendre la propension du test à manquer des infections et à donner des faux positifs », a déclaré Daphne Chen, fondatrice de TBD Health, à TechCrunch. « Il y a toujours un certain niveau de faillibilité, même avec des tests très rigoureux, mais les fabricants de tests comme Roche sont francs avec leurs taux de validation pour une raison – afin que les cliniciens puissent contextualiser les résultats. »

A lire aussi  Gladia transforme n'importe quel fichier audio en texte en temps quasi réel

Dans les petits caractères, Calmara prévient que ses résultats ne doivent pas se substituer à un avis médical. Mais son marketing suggère le contraire. Avant que TechCrunch ne prenne contact avec Calmara, le titre de son site Web était le suivant : « Calmara : Your Intimate Bestie for Unprotected Sex » (il a depuis été mis à jour et s’intitule désormais « Safer Sex »). Dans une vidéo promotionnelle, il se décrit comme « Le SITE WEB PARFAIT pour les rencontres !

La cofondatrice et PDG Mei-Ling Lu a déclaré à TechCrunch que Calmara n’était pas un outil médical sérieux. « Calmara est un produit de style de vie, pas une application médicale. Il ne s’agit pas de conditions médicales ou de discussions dans son cadre, et aucun médecin n’est impliqué dans l’expérience actuelle de Calmara. Il s’agit d’un service d’information gratuit.

« Nous sommes en train de mettre à jour les communications pour mieux refléter nos intentions actuelles », a ajouté M. Lu. « L’idée est clairement d’engager une conversation sur le statut et le dépistage des IST.

Calmara fait partie de HeHealth, qui a été fondée en 2019. Calmara et HeHealth utilisent la même IA, qui, selon l’entreprise, est précise à 65-90%. HeHealth se présente comme une première étape pour évaluer la santé sexuelle ; ensuite, la plateforme aide les utilisateurs à se connecter avec des cliniques partenaires dans leur région afin de prendre rendez-vous pour un dépistage réel et complet.

L’approche de HeHealth est plus rassurante que celle de Calmara, mais la barre est basse – et même dans ce cas, il y a un énorme drapeau rouge qui flotte : la confidentialité des données.

A lire aussi  Les startups d'IA en phase de démarrage ne sont pas toutes égales

« Il est bon de voir qu’ils offrent un mode anonyme, où vous n’avez pas à lier vos photos à des informations personnellement identifiables », a déclaré à TechCrunch Valentina Milanova, fondatrice de Daye, une start-up de dépistage des IST basée sur les tampons hygiéniques. « Cependant, cela ne signifie pas que leur service est dépersonnalisé ou anonymisé, car vos photos peuvent toujours être retracées jusqu’à votre adresse e-mail ou IP.

HeHealth et Calmara affirment également qu’ils sont conformes à l’HIPAA, une réglementation qui protège la confidentialité des patients, parce qu’ils utilisent les services Web d’Amazon. Cela semble rassurant, mais dans sa politique de confidentialité, Calmara écrit qu’elle partage les informations des utilisateurs avec « des fournisseurs de services et des partenaires qui aident au fonctionnement du service, y compris l’hébergement des données, l’analyse, le marketing, le traitement des paiements et la sécurité ». L’entreprise ne précise pas non plus si ces analyses d’intelligence artificielle ont lieu sur votre appareil ou dans le nuage et, dans ce cas, combien de temps ces données restent dans le nuage et à quelles fins elles sont utilisées. C’est un peu trop vague pour rassurer les utilisateurs sur la sécurité de leurs photos intimes.

Ces questions de sécurité ne sont pas seulement préoccupantes pour les utilisateurs, elles sont dangereuses pour l’entreprise elle-même. Que se passe-t-il si un mineur utilise le site pour vérifier s’il est atteint d’une IST ? Calmara se retrouve alors en possession de matériel pédopornographique. La réponse de Calmara à cette responsabilité éthique et juridique est d’écrire dans ses conditions de service qu’elle interdit l’utilisation par des mineurs, mais cette défense n’aurait aucun poids juridique.

A lire aussi  Au milieu du chaos d'OpenAI, l'implication de Sam Altman dans Worldcoin ne devrait pas changer.

Calmara représente le danger d’une technologie surestimée : HeHealth semble vouloir profiter de l’enthousiasme suscité par l’IA pour se faire de la publicité, mais dans sa mise en œuvre réelle, il ne fait que donner aux utilisateurs un faux sentiment de sécurité en ce qui concerne leur santé sexuelle. Les conséquences sont graves.

« La santé sexuelle est un espace délicat pour l’innovation, et je comprends que leurs intentions soient nobles », a déclaré M. Chen. « Je pense simplement qu’ils pourraient être trop rapides à commercialiser une solution qui n’est pas suffisamment aboutie.

IA