La protection des créations visuelles face aux IA
Une vidéo récente de l'excellent Atom sur YouTube m'a récemment interpellé puisqu'il y évoquait la possibilité de "protéger" nos illustrations des IA.
Éviter qu'elles se servent de nos images.
Pour cela, les outils Glaze et Nightshade sont des logiciels téléchargeables, et gratuits.
-Glaze est un système conçu pour protéger les artistes humains par perturbant le mimétisme du style.
-Nightshade fonctionne de la même manière que Glaze, mais au lieu d'être une défense contre le mimétisme de style, il est conçu comme un outil offensif pour déformer les représentations des caractéristiques à l'intérieur des modèles d'image génératifs de l'IA.
J'avais déjà entendu parler de ces outils il y a quelques mois et ne comprenais pas comment, d'après les explications fournies. Ils pouvaient opérer efficacement.
On ne trouve d'ailleurs, sur les 2 sites, aucune contradiction à l'efficacité de Glaze et Nightshade.
Un peu comme si on nous disait : "t'inquiète ça fonctionne !"
Et de manière générale, je n'aime pas me faire biaiser (oui biaiser !) (Biais Cognitifs) Alors, j'ai pu tester en partie si l'image de Karla Ortiz est bien "empoisonnée" par Glaze comme l'image vient du site lui-même.
Résultat avec Chat GPT 4.
L'analyse de l'image opère très bien. Donc l'IA passe au-dessus de Glaze sans difficulté.
Essayons avec un autre outil et une autre image issue de Glaze...
Résultat avec Chat GPT 4.
L'analyse de l'image opère très bien. Donc l'IA passe au-dessus de Glaze sans difficulté.
Essayons avec un autre outil et une autre image issue de Glaze...
C'est l'inverse de ce qui est annoncé. L'image sans Glaze !
Résultat : je ne suis pas du tout convaincu par les annonces. Même si je salue l'initiative, il faut que ces outils soient développés de manière scientifique. Avec des méthodes et des contradictions, des épreuves. Mettre une sorte de filtre aux images pour les faire non reconnaissables par les IA ne semble pas probant avec ce test rapide
Ai-je mal réalisé ce test ? Où me serais-je trompé ? J'attends de vous lire si vous avez des commentaires constructifs.
L'idée de ce test est de savoir si ce qu'on nous dit est vrai. Tester par moi-même, et non pas croire une version ou une autre.
Savoir un peu plus de quoi je parle sur le sujet des IA, et ne pas vous mettre un lien dans CreaNews, que je n'aurais pas testé moi-même.
Surtout sur un sujet aussi clivant sur les réseaux.
Je souhaite, comme la majorité, que ces outils (les IA) aient été développés de manière éthique.
Je pense que c'est trop tard et que le mal est fait et qu'on ne peut pas retourner en arrière.
L'utilisation, elle, dépend de nous, chacun de NOUS.
Je l'ai dit en vidéo, que vous pouvez voir ou revoir, et que je compte compléter prochainement.
Pour cela, il reste du travail pour formaliser cette CréaNews...
J'espère que ce test vous apportera l'Esprit Critique à propos des outils IA comme anti-IA
Nota Bene
: Le site https://www.pixsy.com/ propose une alternative,
mais je ne peux la tester et je ne connais personne qui l'ait testée non plus
Mais semble plus prometteur A PRIORI et selon moi, par son fonctionnement.
À tester donc...