Pendant des siècles, acquérir un portrait peint a nécessité des heures de séance et pas mal d’argent. La technologie a permis d’obtenir des dizaines de portraits peints, dans des dizaines de scénarios et de styles, presque instantanément en utilisant l’intelligence artificielle (IA). L’une des applications les plus populaires qui changent le jeu selfie est Lensa, avec plus de 25 millions de téléchargements à ce jour. Nous admettons que c’est intéressant et attrayant, mais Lensa est-il sûr ? Certaines de ses méthodes de collecte d’images source et les sujets de son contenu généré font sourciller les gens.
Qu’est-ce que Lensa et comment ça marche ?
Simplement, Lensa est utilisé pour éditer des photos plus efficacement que les applications de retouche photo traditionnelles. C’est parce qu’il utilise l’IA pour effectuer des ajustements automatiques. Cette IA open source s’appelle Diffusion stable. Stable Diffusion utilise un ensemble de données appelé LAION 5B qui contient des milliards de paires image-texte filtrées par AGRAFE, une autre IA utilisée pour connecter des invites de texte à des images. Il est plus puissant que les modèles d’IA d’image précédents comme DALL-E 2 car il utilise 10 fois plus d’images source pour produire de nouvelles photos “originales”.
Ces IA utilisent l’apprentissage en profondeur, qui est plus complexe que l’apprentissage automatique de base. L’ordinateur est conditionné pour apprendre en utilisant des processus basés sur le cerveau humain et ajustez automatiquement les algorithmes, ce qui lui permet de comprendre de grandes quantités de requêtes basées sur les médias et la langue avec une intervention humaine minimale. Il s’agit d’un grand pas en avant pour combler le fossé entre les humains et les machines, nous permettant de communiquer de manière plus transparente.
Quels sont les services de l’application explicitement fournir?
Tout comme la plupart des applications de retouche photo, Lensa permet aux clients d’éditer à l’aide d’outils pouvant être ajustés manuellement. L’IA permet aux éditeurs de photos non qualifiés d’apporter des ajustements pratiques à leurs visages et à leur arrière-plan. Cela comprend la suppression des imperfections ou des objets et la correction des couleurs. Il est également disponible pour Mac, qui offre des fonctionnalités telles que l’édition de photos par lots, vous permettant de “modifier une séance photo entière” à la fois.
Cependant, ce ne sont pas les fonctionnalités qui attirent tout le monde vers l’application. Il a été lancé par les laboratoires Prisma en 2018 mais n’a explosé en popularité qu’en 2022 lorsque la fonctionnalité Magic Avatars a été abandonnée. Avec seulement 10 à 20 selfies téléchargés, l’IA apprendra à quoi ressemble votre visage et générera 50 à 200 avatars avec 5 à 20 variations de 10 styles différents (sélectionnables) en 20 à 40 minutes. C’est pourquoi vous pouvez voir autant d’images fantastiques de vos amis comme des astronautes, des fées et plus encore sur votre flux Instagram.
Combien coûte l’utilisation de l’application ?
Lensa n’est pas gratuit, mis à part un essai gratuit d’une semaine. Vous devrez payer au moins 7,99 $ pour un minimum de 50 avatars uniques et jusqu’à 15,99 $ pour un maximum de 200 avatars uniques. Un abonnement annuel à l’application qui comprend un accès illimité à toutes ses fonctionnalités (en plus de Magic Avatars) vous coûtera 99,99 $ (souvent en vente pour 35,99 $) pour l’année, jusqu’à 2,99 $ par semaine si vous voulez ralentir les choses.
Sachez qu’après la fin de votre essai, vous serez automatiquement facturé pour un abonnement annuel. Vous vous demandez peut-être pourquoi Lensa est-il un service payant si l’IA qui l’alimente est gratuite ? Ces IA nécessitent une immense puissance de calcul pour fonctionner. D’autant plus que Lensa distribue le service à des millions de personnes. Il n’est pas surprenant que Lensa ait gagné 8 millions de dollars le mois suivant la sortie de Magic Avatars. Cela représente près de 50 % de son chiffre d’affaires pour toute l’année 2022.
La raison pour laquelle les artistes détestent Lensa
Là où il y a de l’IA, il y a toujours des questions éthiques à considérer. L’un des plus importants : d’où viennent réellement ces images? Comme mentionné, Lensa utilise des images extraites du Web via LAION 5B. Mais ils déclarent également explicitement que les artistes n’ont pas eu la possibilité de refuser que leur travail soit utilisé pour LAION 5B. Cela provoque un pipeline inquiétant de vol d’art dans le monde de l’IA via des applications comme Lensa. Stability AI, propriétaire de Stable Diffusion, a répondu à sociétés et artistes semblables qui poursuivent sur cette question. Ils disent que leurs pratiques sont transformatrices, constituant un usage loyal.
L’utilisation d’un filigrane n’est pas à la hauteur d’une IA qui dispose de millions d’images pour l’identifier. Cela a conduit les artistes à se faire voler leur travail et leur style via des services payants comme Shutterstock et Getty. Même les artistes qui utilisent des services gratuits comme Flickr, Unsplash et DeviantArt ont généralement l’intention d’attirer des clients. Supprimer un filigrane/signature est illégal sur une base de droit d’auteur au cas par cas. Lensa pourrait faire face à des milliards de dollars de dommages et intérêts pour avoir reproduit de l’art sans le consentement du propriétaire derrière un paywall.
Autres problèmes éthiques avec l’application
L’IA peut devenir sujette à certains biais lorsqu’elle utilise le Web comme base de données principale. Il appartient aux experts d’atténuer cela avant qu’il ne commence à affecter l’expérience de l’utilisateur avec le service. Il peut également tirer des conclusions à partir des seules données d’image qui peuvent être nuisibles et offensantes. Des exemples de ces problèmes survenus sur Lensa incluent l’exagération excessive/l’élimination de certaines caractéristiques fondées sur la race et l’amincissement des utilisateurs en surpoids. Cela a suscité des inquiétudes concernant dysmorphie corporelle.
Un autre énorme problème, sans doute plus prolifique que tout autre problème in-app, est la sur-sexualisation des femmes dans les avatars produits les représentant semi/entièrement nues. Cela soulève une question importante sur la distribution d’images explicites non consensuelles. Surtout lorsque les utilisateurs peuvent utiliser des images de mineurs pour créer ces avatars. Ce problème a considérablement augmenté après la création de l’IA, des contrefaçons profondes et d’autres moyens de créer des images sexuelles uniques d’une partie non consentante. L’application vous demande de vérifier que vous avez plus de 18 ans avant d’utiliser Magic Avatars. Mais cela justifie-t-il sa capacité à créer des images sexuellement explicites utilisant la ressemblance de mineurs? Cette décision est susceptible d’éviter la culpabilité si quelqu’un abusait du service.
Est-ce que Lensa peut être utilisé en toute sécurité ?
Donc, avec toutes ces erreurs à l’esprit, Lensa est-elle sûre à tous égards ? D’une part, Lensa déclare dans son politique de confidentialité que toutes les copies de modèles et de photos téléchargées sont définitivement supprimées de leurs serveurs après utilisation. Cela garantit que vos selfies ne seront pas utilisés pour former l’IA ou apparaître pour les avatars d’autres personnes. Il n’utilise pas non plus de métadonnées sur les photos téléchargées, ce qui peut révéler des informations sur l’endroit où la photo a été prise.
Cela étant dit, certaines informations sont collectées par Lensa, partagées avec des tiers affiliés, à des fins de marketing et de suivi. L’application nécessite également une foule d’autorisations. Cela inclut l’accès à votre caméra et à votre microphone, ce qui peut vous mettre en danger si l’application devait être piratée de manière malveillante. Bien que la plupart de ces informations soient rendues anonymes, nous vous recommandons néanmoins de vous retirer de toute méthode de collecte de données à laquelle l’application peut vous inciter à participer.
Quelle est la véritable intention de Lensa ?
Nous devons également mentionner que anciennes politiques inclus une section plus longue sur “Face Data” et comment il est utilisé par l’application. Cette terminologie a depuis été supprimée de la dernière version de la politique de confidentialité. Mais il mentionne toujours l’utilisation de l’API TrueDepth qui utilise la biométrie pour suivre votre visage. En raison du contrecoup, ils ont choisi de supprimer la section indiquant l’utilisation de photos et de vidéos téléchargées pour entraîner leur IA. Cela impliquait le partage indirect de données biométriques avec les affiliés. Une passerelle bien connue vers la surveillance.
Bien que les avatars soient stockés sur les serveurs de Lensa (jusqu’à leur suppression par l’utilisateur), il est explicitement indiqué que ces avatars ne sont en aucun cas utilisés à des fins d’identification, de marketing ou de publicité de tiers. Lensa cède également la pleine propriété de ces images à l’utilisateur. Lensa se réserve le droit, par le biais d’un Licence d’entreprised’utiliser, de modifier, de distribuer ou de créer des œuvres dérivées de votre contenu généré par l’utilisateur à des fins internes sans compensation tant qu’il reste dans l’application. Cette licence d’entreprise se termine automatiquement lorsque vous supprimez votre compte ou toute donnée associée à l’application.
Comment en permanence supprimer Lensa
Veuillez noter que la suppression de l’application Lensa ne supprime pas votre compte ou vos données des serveurs de Lensa. Cela signifie qu’il peut toujours être utilisé via la licence d’entreprise. Pour supprimer définitivement votre compte, ouvrir l’application Lensa > appuyez sur le rouage intitulé Paramètres en bas à droite de l’écran > appuyez sur votre e-mail sous Profil > et appuyez sur Supprimer le compte. Pour mettre fin à votre abonnement, appuyez sur le rouage Paramètres > appuyez sur Gérer les abonnements > appuyez sur Annuler l’abonnement. Avant de supprimer l’application, assurez-vous de supprimer toutes les données laissées sur l’application telles que les avatars générés, vider le cache de l’application dans les paramètres de votre appareil, puis supprimez-le. Pour aller plus loin, envoyez un e-mail (e-mail protégé) et demander que toutes les données personnelles soient supprimées de leurs serveurs. Conformément au GDPR, ils doivent le faire.
Comment rester en sécurité lors de l’utilisation d’applications photo AI
Soyez toujours vigilant sur les personnes avec lesquelles vous partagez vos données, en particulier celles qui utilisent la biométrie comme Lensa. Si Prisma Labs devait être acquis, les politiques pourraient changer. Ces données pourraient tomber entre les mains de politiques de collecte/distribution de données plus flagrantes. C’est pourquoi il est important de vérifier votre sécurité dans toutes les applications d’imagerie AI qui collectent des données personnelles en vous rappelant ces conseils simples :
- Savoir comment l’entreprise utilise vos données collectées et révoquer les autorisations qui ne sont plus nécessaires pour utiliser l’application.
- Refuser toute collecte de données, même les « diagnostics ».
- Évitez de republier vos avatars sur d’autres médias sociaux, car cela vous ouvre la voie au scraping de l’IA. Cela pourrait potentiellement réintégrer votre image dans la formation à l’IA.
- Mettez toujours à jour les applications AI ou toutes les applications qui utilisent des données biométriques pour obtenir la sécurité la plus récente. Le vol ou la réutilisation de ces informations est potentiellement dangereux.
Alors, Lensa est-elle sûre ? Que les portraits fantastiques valent ou non certaines de vos données personnelles et biométriques, c’est à vous de décider. Habituellement, limiter votre utilisation à une seule instance (car nous savons que la curiosité peut être écrasante) et supprimer vos données de l’application ne compromettra pas l’essentiel de vos informations personnelles. Mais évitez de republier vos avatars pour éviter d’être utilisé pour d’autres types de formation à l’IA.