Adobe vend des images générées par l’IA de la guerre entre Israël et le Hamas, et certains sites Web les utilisent sans indiquer qu’elles sont fausses.

• Adobe vend des images générées par l’IA qui décrivent la guerre entre Israël et le Hamas avec différents degrés de réalisme.
• L’une des images a été partagée en ligne par le public sans indication claire qu’elle est fausse.
• La désinformation sur le conflit Israël-Hamas s’est déjà répandue en ligne.

Adobe vend des images générées par l’IA illustrant la guerre entre Israël et le Hamas. Bien que certaines soient manifestement générées par ordinateur, d’autres sont plus réalistes, y compris une image qui a été partagée en ligne par certains sites Web plus petits et dans des publications sur les réseaux sociaux – suscitant des inquiétudes quant au fait que le contenu généré par l’IA pourrait contribuer à la désinformation, ont rapporté les médias australiens Crikey et Vice’s mère. .

Une recherche sur « Israël Hamas guerre » dans Adobe Stock révèle une multitude d’images montrant des rues déchirées par la guerre, des explosions, des soldats, des chars et des bâtiments en feu, et des enfants debout dans les décombres.

Adobe Stock, qui vend des images soumises par des artistes individuels, exige que toutes les images générées par l’IA sur la plateforme soient étiquetées comme telles. Mais certaines des images en vente sont marquées comme générées par l’IA uniquement dans les petits caractères, pas dans leurs titres.

« Grande explosion illuminant l’horizon en Palestine », indique le titre d’une image générée par l’IA. « Bâtiments détruits par la guerre dans la bande de Gaza en Israël », lit-on dans un autre. Une image montrant une femme en détresse est intitulée « Une Israélienne blessée s’accroche à un militaire, implorant de l’aide ».

Certains titres d’images mentionnent l’IA. Une image générée par l’IA, intitulée « Conflit entre Israël et la Palestine par l’IA générative », ressemble à des images réelles de la guerre et a été partagée en ligne.

Et une recherche d’image inversée sur Google pour l’image révèle des cas où elle a été utilisée sur Internet dans des publications, des vidéos et sur les réseaux sociaux, aux côtés du lien Adobe d’origine. La recherche aboutit également à d’autres images très similaires, vraisemblablement réelles, du conflit. On ne sait pas vraiment si ceux qui ont utilisé l’image générée par l’IA sur leurs sites Web ou dans leurs publications sur les réseaux sociaux savaient qu’il ne s’agissait pas d’une vraie photo.

« Ces images spécifiques ont été qualifiées d’IA générative lorsqu’elles ont toutes deux été soumises et mises à disposition pour licence conformément à ces exigences », a déclaré un porte-parole d’Adobe dans une déclaration à Insider. « Nous pensons qu’il est important que les clients sachent quelles images Adobe Stock ont ​​été créées à l’aide d’outils d’IA générative. »

« Adobe s’engage à lutter contre la désinformation et, via la Content Authenticity Initiative, nous travaillons avec des éditeurs, des fabricants d’appareils photo et d’autres parties prenantes pour faire progresser l’adoption des informations d’identification de contenu, y compris dans nos propres produits », poursuit le communiqué. « Les informations d’identification de contenu permettent aux utilisateurs de connaître le contexte essentiel sur la façon dont un élément de contenu numérique a été capturé, créé ou modifié, y compris si des outils d’IA ont été utilisés dans la création ou l’édition du contenu numérique. »

Désinformation et désinformation sur la guerre Israël-Hamas est déjà répandu en ligne. Des contenus trompeurs, d’anciennes vidéos et photos d’autres conflits dans d’autres parties du monde, et même des séquences de jeux vidéo ont été présentés comme de véritables photos du conflit toujours en cours.

Et à mesure que le contenu généré par l’IA devient à la fois plus réaliste et plus répandu, il peut être difficile de discerner si une image est réelle ou non, surtout lorsque même les détecteurs d’images IA peuvent être faciles à tromper.

Et, comme c’est le cas avec les images générées par l’IA, il est beaucoup plus difficile de contrôler l’étiquetage d’une image générée par l’IA. après il a été téléchargé par un utilisateur. Après tout, rien ne garantit que quelqu’un notera clairement l’origine de l’image ou qu’il s’agit d’une IA.

Henry Ajder, un expert en IA qui fait partie du conseil consultatif européen de Meta’s Reality Labs, a déjà partagé quelques conseils avec Insider pour aider à distinguer les images générées par l’IA des images réelles. Les images de l’IA peuvent souvent paraître « plastiques » ou trop stylisées, et peuvent présenter des incohérences esthétiques dans leur éclairage, leurs formes ou d’autres détails.

Ajder suggère également de poser des questions lorsqu’une image semble un peu trop sensationnelle, comme « Qui l’a partagée ? » « Où a-t-il été partagé ? » et « Pouvez-vous y faire une référence croisée ? » Il suggère également de faire une recherche d’image inversée pour trouver le contexte d’une image.