Ce n’est qu’une question de temps avant que chacun d’entre nous ne soit victime d’une technologie deepfake, déclare un analyste.
Pourquoi Bill Gates a-t-il traversé la route ?
Nous ne savons pas, mais nous pouvons vous assurer que Microsoft (MSFT) – Obtenir le rapport Microsoft Corporationfondateur n’avait pas d’implants mammaires.
“Dans d’autres informations sur la vérification des faits”
Une vidéo modifiée numériquement a fait son apparition sur les réseaux sociaux et montre le milliardaire avec une poitrine élargie alors qu’il traverse une rue à New York.
Le clip vidéo, qui a récemment refait surface après être apparu en ligne l’année dernière, a suscité des questions sur la “transition” de Gates ou la réception d’implants mammaires.
Reuters Fact Check a déclaré la vidéo modifiée, en comparant le clip à des images non éditées publiées sur YouTube par le site de divertissement Gossip Bae.
L’annonce du 25 avril a été accueillie avec un sérieux sarcasme lorsqu’elle a été publiée sur Twitter.
“Putain de merde, vous saviez que Game of Thrones n’était pas réel non plus ??” un commentateur dit, y compris un clip sans CGI de la populaire série HBO.
“Dans d’autres informations factuelles, les dinosaures de Jurassic Park n’étaient pas réels et étaient en fait une combinaison de créations CGI et animatroniques”, a déclaré une personne. tweeté.
“Un point d’inflexion”
D’autres commentateurs ont évoqué le nom de Tesla (TSLA) – Obtenez le rapport Tesla IncLe PDG Elon Musk, qui rachète Twitter (TWTR) – Obtenez le rapport de Twitter, Inc.pour 44 milliards de dollars et en privatisant l’entreprise.
“Profitez de vos derniers jours de pertinence sur cette application,” une personne a dit. “Car vous serez une relique des médias sociaux une fois qu’Elon aura racheté Twitter.”
“Je prie pour que quand@Elon Muskpossède Twitter, nous devons voir moins de ces “vérifications des faits” ridicules de choses absurdes”, a déclaré une autre personne, ajoutant.
Cependant, la vidéo met en évidence la question des deepfakes, qui fait référence à l’utilisation de l’IA pour créer des médias synthétiques – image, audio, vidéo – à l’image de quelqu’un d’autre.
“Alors que nous entendons parler de deepfakes depuis quelques années, nous sommes maintenant à un point d’inflexion où la technologie est à la disposition de tous et ce n’est qu’une question de temps avant que chacun d’entre nous ne soit victime de la technologie deepfake”, a déclaré Kartik. Hosanagar, professeur de technologie et de commerce numérique à la Wharton School de l’Université de Pennsylvanie.
Le mois dernier, une fausse vidéo du président ukrainien Volodymyr Zelenskyy semblant dire à ses soldats de déposer les armes et d’abandonner le combat contre la Russie a été diffusée sur les réseaux sociaux.
Désinformation croissante
Une vidéo deepfake du président russe Vladimir Poutine est apparue en ligne peu de temps après, montrant l’ancien agent du KGB annonçant la reddition de la Russie et disant aux soldats de “rentrez chez vous tant que vous êtes en vie”.
L’acteur Robert Pattinson a récemment été la cible d’un compte deepfake TikTok. Pattison a déclaré qu’il n’avait aucun compte sur les réseaux sociaux.
“Les deepfakes peuvent créer des illusions sur la présence et les activités d’un individu qui ne se sont pas produites dans la réalité”, a déclaré Siwei Lyu, professeur d’informatique et d’ingénierie et directeur du UB Media Forensic Lab à l’Université de Buffalo.
“En tant que tels, les deepfakes peuvent aggraver l’ampleur et le danger de la désinformation en ligne. C’est la raison pour laquelle ils peuvent être très dangereux.”
Lyu a cité un rapport de l’année dernière selon lequel le nombre de fausses vidéos profondes en ligne double tous les six mois.
“Je pense que c’est une sous-estimation et il y en aura beaucoup plus dans les années à venir”, a-t-il déclaré.
Hosanagar a déclaré que la technologie peut avoir de nombreuses utilisations souhaitables, comme dans des films comme “Forrest Gump”, où le personnage de Tom Hanks rencontre JFK.
“Mais malgré ces cas d’utilisation positifs, la technologie fera probablement la une des journaux en raison de sa capacité à attiser les troubles civils et politiques, à salir la réputation des individus et à permettre la fraude financière”, a-t-il ajouté. “Chacun de ces scénarios potentiels s’est déjà joué et nous n’en sommes qu’au début.”
La technologie doit résoudre le problème
Quant à savoir quoi faire face à la menace des deepfakes, Hosanagar “la technologie doit résoudre le problème qu’elle a contribué à créer”.
“D’abord, nous avons besoin de systèmes d’authentification capables de vérifier l’origine des images et des vidéos, a-t-il déclaré.
Il a déclaré que Microsoft avait développé un prototype de système nommé AMP : Authentication of Media via Provenance, qui permet aux fournisseurs de contenu multimédia de créer et d’attribuer un certificat d’authenticité à leur contenu.
“Ce que cela signifie pour les utilisateurs finaux, c’est que l’assurance concernant l’authenticité du contenu qu’ils visualisent pourrait être aussi simple qu’une icône (similaire à l’icône du cadenas du navigateur) indiquant que le média consommé n’a pas été altéré”, a-t-il déclaré.
“Bien que la création de tels systèmes d’authentification et de provenance soit une bonne première étape, pour que ces systèmes soient efficaces dans la pratique, ils doivent être largement adoptés par les créateurs de contenu, ce qui prendra du temps.”
En attendant, a déclaré Hosanagar, le système juridique pourrait fournir des moyens de dissuasion supplémentaires pour arrêter les dommages potentiels causés par les deepfakes.
“Tout le monde sur le pont !”
Il a déclaré qu’un certain nombre de lois étaient proposées et adoptées aux niveaux étatique et fédéral et il a cité la Virginie, qui a récemment criminalisé le partage non consensuel de pornographie deepfake en élargissant une loi sur la pornographie de vengeance.
Une autre possibilité consiste à demander aux plateformes de médias en ligne de faire plus en termes d’authentification du contenu partagé sur leurs plateformes, a-t-il déclaré.
“Dans l’ensemble, nous avons besoin de l’adoption de ce type de lois, associée à l’adoption de technologies d’authentification et de provenance parmi les consommateurs et les entreprises”, a déclaré Hosanagar.
Lyu a accepté, affirmant que “lutter contre les deepfakes est un effort communautaire”.
Il a déclaré que cela comprend la recherche d’algorithmes de détection plus efficaces, l’adoption d’un filtrage plus strict et un marquage plus efficace des médias falsifiés par les plateformes sociales.
L’effort nécessite également une législation contre les types de deepfakes les plus offensants, une réaction rapide et une vérification des faits par les médias publics, et une diligence raisonnable des utilisateurs en ligne.
“Tout le monde sur le pont !” il a dit.
