Les Investisseurs logo

Surveillance de données : Facebook vient de lâcher son IA sur Instagram

La surveillance de données prend de l'ampleur. Facebook developpe son IA en utilisation les contenus publiés par ses utilisateurs. Faisons le point.
mars 12, 2021
jeff brown

L'IA de surveillance de données de Facebook est activé sur Instagram

Facebook vient d'annoncer qu'il a développé un nouveau système d'intelligence artificielle (IA) appelé le SEER. C'est un nom qui sonne plutôt mal si vous me demandez, surtout si nous comprenons ce qu'il fait.

Aujourd'hui, la plupart des IA ne peuvent apprendre qu'avec une supervision humaine. Elles doivent être "alimentées" par de grands ensembles de données structurées. Et les programmeurs utilisent essentiellement des garde-fous et fournissent des conseils pour éviter que l'IA ne s'écarte trop de sa trajectoire.

Pas SEER.

Une IA sans garde-fous

Cette IA fonctionne selon ce que l'on appelle un modèle d'apprentissage autosurveillé. Il n'y a pas du tout de garde-fous.

Et Facebook vient de diffuser SEER sur un milliard d'images publiques d'Instagram. Il s'agissait de photos aléatoires que les utilisateurs d'Instagram ont publiés. Aucune d'entre elles n'a été étiquetée ou conservée. Le but était de voir si l'IA pouvait étiqueter et classer les images avec précision par elle-même.

Et bien sûr, SEER a surpassé tous les autres modèles d'IA avec un score de 84,2% de précision de classification. Il s'agit d'un test courant dans l'industrie lorsqu'il s'agit d'identifier des images et des objets. En comparaison, les systèmes d'IA les mieux supervisés ne peuvent atteindre qu'une précision de classification d'environ 80 %.

Il s'agit là d'une avancée majeure dans le domaine de l'IA.

Comment Facebook développe la surveillance de données de masse légalement ?

Les modèles d'IA autosupervisés suscitent l’intérêt des industries depuis des décennies. L'idée est que si les IA peuvent apprendre par elles-mêmes et se gouverner elles-mêmes, elles seront beaucoup plus efficaces. Et elles pourront potentiellement résoudre des problèmes d'une manière originale à laquelle les humains n'auraient pas pensé. C'est un objectif louable si elles sont utilisées à bon escient.

Mais arrêtons-nous une minute ici et posons-nous une question.

Facebook a-t-il obtenu l'autorisation des centaines de millions de personnes qui ont publié leurs photos pour aider à former son IA et, en fin de compte, en tirer profit ? Facebook les a-t-il même avertis de ce qui se passait ?

Bien sûr que non. Dans le contrat d'utilisation d'Instagram, il y a une clause qui dit que Facebook peut faire à peu près tout ce qu'il veut avec le contenu que les utilisateurs publient.

Il n'est pas difficile de voir comment les abus sont possibles ici.

La surveillance de données par facebook

La surveillance de données de masse est amorcée

L'idée que des entreprises comme Facebook - qui s'est avéré être un piètre gestionnaire des données de ses clients - puissent libérer des IA auto-supervisées sur nos données et nos photos est très effrayante. Cela pourrait porter les pratiques de surveillance des données, déjà troublantes, à un tout autre niveau.

Imaginez une IA qui exploite toutes les photos que quelqu'un a postées de nous sur une plateforme de médias sociaux, en utilisant la reconnaissance faciale, et génère des informations sur notre comportement. Il pourrait même s'agir d'une photo prise par quelqu'un il y a dix ans et que nous avons oubliée depuis longtemps.

Il n'est pas difficile de voir comment cela pourrait devenir incontrôlable.

Vers un nouveau modèle d'IA autosupervisées pour la surveillance de données ?

D’autres entreprises vont s'inspirer de ce modèle d'intelligence artificielle pour lancer leurs propres IA autosupervisées. Espérons qu'elles le feront à des fins bienveillantes et non en bafouant la vie privée de leurs clients.

La bonne nouvelle est que ce type d'approche de l'IA peut être utilisé pour résoudre des problèmes très complexes, et pas seulement pour vendre de la publicité en surveillant la vie des clients.

Comme je l'ai déjà dit, le cadre éthique entourant l'utilisation de la technologie de l'IA sera l'une des discussions les plus importantes de cette décennie. Et ceci est un excellent exemple de la raison pour laquelle il est essentiel d'aborder le rôle croissant que l'IA jouera dans nos vies.

Envie d'en savoir plus sur le SEER 

Avant d'approfondir ce sujet précisément, Lucas Marchand, directeur de Vauban editions, vous propose de découvrir les 5 règles d'or de la bourse pour vous permettre d'atteindre vos objectifs financiers.
5 règles d'or de la bourse

Envie de découvrir des articles sur la technologie ?

0 0 votes
Évaluation de l'article
S’abonner
Notification pour
guest
0 Commentaires
Commentaires en ligne
Afficher tous les commentaires
Vauban Editions
Rue Neuve 3,
1003 Lausanne

Des questions ? N'hésitez pas à nous contacter

 

cross-circle
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x