Google a interdit la formation de systèmes d’IA pouvant être utilisés pour générer des deepfakes sur sa plateforme Google Colaboratory. Les conditions d’utilisation mises à jour, repérées au cours du week-end par BleepingComputer, incluent les travaux liés aux deepfakes dans la liste des projets non autorisés.
Colaboratory, ou Colab en abrégé, est issu d’un projet interne de Google Research fin 2017. Il est conçu pour permettre à quiconque d’écrire et d’exécuter du code Python arbitraire via un navigateur Web, en particulier du code pour l’apprentissage automatique, l’éducation et l’analyse de données. À cette fin, Google fournit aux utilisateurs de Colab un accès gratuit et payant au matériel, y compris aux GPU et aux unités de traitement de tenseur (TPU) conçues sur mesure et accélérant l’IA.
Ces dernières années, Colab est devenu la plate-forme de facto pour les démonstrations au sein de la communauté de recherche en IA. Il n’est pas rare que les chercheurs qui ont écrit du code incluent des liens vers des pages Colab sur ou à côté des référentiels GitHub hébergeant le code. Mais Google n’a pas toujours été très restrictif en ce qui concerne le contenu de Colab, ouvrant potentiellement la porte aux acteurs qui souhaitent utiliser le service à des fins moins scrupuleuses.
Les utilisateurs du générateur de deepfake open Source DeepFaceLab ont pris connaissance du changement des conditions d’utilisation la semaine dernière, lorsque plusieurs ont reçu un message d’erreur après avoir tenté d’exécuter DeepFaceLab dans Colab.
L’avertissement était le suivant : « Vous exécutez peut-être du code non autorisé, ce qui peut restreindre votre capacité à utiliser Colab à l’avenir. Veuillez noter les actions interdites spécifiées dans notre FAQ ». Les données d’Archive.org montrent que Google a discrètement mis à jour les conditions de Colab à la mi-mai. Les restrictions précédentes sur des choses comme l’exécution d’attaques par déni de service, le craquage de mot de passe et le téléchargement de torrents sont restées inchangées.
Les deepfakes se présentent sous de nombreuses formes, mais l’une des plus courantes sont les vidéos où le visage d’une personne a été collé de manière convaincante sur un autre visage. Contrairement aux travaux bruts de Photoshop d’antan, les deepfakes générés par l’IA peuvent mieux correspondre aux mouvements du corps, aux micro expressions et aux tons de peau d’une personne que le CGI produit par Hollywood dans certains cas.
Les deepfakes peuvent être inoffensifs, voire divertissants, comme l’ont montré d’innombrables vidéos virales. Mais ils sont de plus en plus utilisés par les pirates pour cibler les utilisateurs de médias sociaux dans des stratagèmes d’extorsion et de fraude.
Plus néfaste encore, ils ont été exploités dans la propagande politique, par exemple pour créer des vidéos du président ukrainien Volodymyr Zelensky prononçant un discours sur la guerre en Ukraine qu’il n’a jamais réellement prononcé.
Colaboratory, ou Colab en abrégé, est issu d’un projet interne de Google Research fin 2017. Il est conçu pour permettre à quiconque d’écrire et d’exécuter du code Python arbitraire via un navigateur Web, en particulier du code pour l’apprentissage automatique, l’éducation et l’analyse de données. À cette fin, Google fournit aux utilisateurs de Colab un accès gratuit et payant au matériel, y compris aux GPU et aux unités de traitement de tenseur (TPU) conçues sur mesure et accélérant l’IA.
Ces dernières années, Colab est devenu la plate-forme de facto pour les démonstrations au sein de la communauté de recherche en IA. Il n’est pas rare que les chercheurs qui ont écrit du code incluent des liens vers des pages Colab sur ou à côté des référentiels GitHub hébergeant le code. Mais Google n’a pas toujours été très restrictif en ce qui concerne le contenu de Colab, ouvrant potentiellement la porte aux acteurs qui souhaitent utiliser le service à des fins moins scrupuleuses.
Les utilisateurs du générateur de deepfake open Source DeepFaceLab ont pris connaissance du changement des conditions d’utilisation la semaine dernière, lorsque plusieurs ont reçu un message d’erreur après avoir tenté d’exécuter DeepFaceLab dans Colab.
L’avertissement était le suivant : « Vous exécutez peut-être du code non autorisé, ce qui peut restreindre votre capacité à utiliser Colab à l’avenir. Veuillez noter les actions interdites spécifiées dans notre FAQ ». Les données d’Archive.org montrent que Google a discrètement mis à jour les conditions de Colab à la mi-mai. Les restrictions précédentes sur des choses comme l’exécution d’attaques par déni de service, le craquage de mot de passe et le téléchargement de torrents sont restées inchangées.
Les deepfakes se présentent sous de nombreuses formes, mais l’une des plus courantes sont les vidéos où le visage d’une personne a été collé de manière convaincante sur un autre visage. Contrairement aux travaux bruts de Photoshop d’antan, les deepfakes générés par l’IA peuvent mieux correspondre aux mouvements du corps, aux micro expressions et aux tons de peau d’une personne que le CGI produit par Hollywood dans certains cas.
Les deepfakes peuvent être inoffensifs, voire divertissants, comme l’ont montré d’innombrables vidéos virales. Mais ils sont de plus en plus utilisés par les pirates pour cibler les utilisateurs de médias sociaux dans des stratagèmes d’extorsion et de fraude.
Plus néfaste encore, ils ont été exploités dans la propagande politique, par exemple pour créer des vidéos du président ukrainien Volodymyr Zelensky prononçant un discours sur la guerre en Ukraine qu’il n’a jamais réellement prononcé.
Y. E.
