L’IA de surveillance de données de Facebook est activé sur Instagram
Facebook vient d’annoncer qu’il a développé un nouveau système d’intelligence artificielle (IA) appelé le SEER. C’est un nom qui sonne plutôt mal si vous me demandez, surtout si nous comprenons ce qu’il fait.
Aujourd’hui, la plupart des IA ne peuvent apprendre qu’avec une supervision humaine. Elles doivent être « alimentées » par de grands ensembles de données structurées. Et les programmeurs utilisent essentiellement des garde-fous et fournissent des conseils pour éviter que l’IA ne s’écarte trop de sa trajectoire.
Pas SEER.
Une IA sans garde-fous
Cette IA fonctionne selon ce que l’on appelle un modèle d’apprentissage autosurveillé. Il n’y a pas du tout de garde-fous.
Et Facebook vient de diffuser SEER sur un milliard d’images publiques d’Instagram. Il s’agissait de photos aléatoires que les utilisateurs d’Instagram ont publiés. Aucune d’entre elles n’a été étiquetée ou conservée. Le but était de voir si l’IA pouvait étiqueter et classer les images avec précision par elle-même.
Et bien sûr, SEER a surpassé tous les autres modèles d’IA avec un score de 84,2% de précision de classification. Il s’agit d’un test courant dans l’industrie lorsqu’il s’agit d’identifier des images et des objets. En comparaison, les systèmes d’IA les mieux supervisés ne peuvent atteindre qu’une précision de classification d’environ 80 %.
Il s’agit là d’une avancée majeure dans le domaine de l’IA.
Comment Facebook développe la surveillance de données de masse légalement ?
Les modèles d’IA autosupervisés suscitent l’intérêt des industries depuis des décennies. L’idée est que si les IA peuvent apprendre par elles-mêmes et se gouverner elles-mêmes, elles seront beaucoup plus efficaces. Et elles pourront potentiellement résoudre des problèmes d’une manière originale à laquelle les humains n’auraient pas pensé. C’est un objectif louable si elles sont utilisées à bon escient.
Mais arrêtons-nous une minute ici et posons-nous une question.
Facebook a-t-il obtenu l’autorisation des centaines de millions de personnes qui ont publié leurs photos pour aider à former son IA et, en fin de compte, en tirer profit ? Facebook les a-t-il même avertis de ce qui se passait ?
Bien sûr que non. Dans le contrat d’utilisation d’Instagram, il y a une clause qui dit que Facebook peut faire à peu près tout ce qu’il veut avec le contenu que les utilisateurs publient.
Il n’est pas difficile de voir comment les abus sont possibles ici.