L'info, c'est clair !

Garder le contrôle sur les IA...

Aujourd'hui, ce sont les grandes entreprises d'IA qui décident des règles, de leur fonctionnement... Et leur objectif est de gagner de l'argent... Mais qui contrôle qu'elles sont bien là pour aider les
humains ? Qui évalue les dangers et les risques ? Quel pouvoir avons-nous chacun pour contrôler leur place dans nos vies ?

Créer des IA plus justes !
Les IA sont entraînées par des humains, qui créent des algorithmes. Elles apprennent à partir d'informations qui leur ont été données...
Aujourd'hui, les équipes qui créent les IA sont surtout des hommes, blancs, jeunes... Ils ont pensé et travaillé avec leur histoire, leur culture... Ainsi, au départ, les logiciels de reconnaissance faciale ne reconnaissaient pas les personnes noires.
L'UNESCO (Organisation des Nations Unies pour l'éducation, la science et la culture) a étudié les productions des IA de Meta et Open AI. Selon ses résultats, publiés en mars 2024, elles transmettent des idées sexistes, racistes et homophobes. Les femmes, dans au moins 30 % des textes créés, sont des prostituées, des mannequins ou des serveuses. Les mots pour parler d'elles sont « maison », « famille », « enfants ».
L 'UNESCO juge cela inquiétant car ces IA ont le pouvoir d'agir sur les imaginaires de millions de personnes et ainsi d'augmenter les inégalités dans le monde réel. L'UNESCO demande aux entreprises de l'IA d'employer plus de femmes. Elles ne sont que 22 %.
Pour la scientifique Aurélie Jean, il est urgent d'intégrer dans les équipes des personnes de couleur, plus âgées, handicapées... pour que les IA soient pensées pour tous, qu'elles ne soient pas discriminantes.

Une loi européenne... avec peu d'interdictions
C'est une première mondiale : en mai 2024, les pays de l'Union européenne (UE) ont voté une loi qui réglemente les intelligences artificielles. Mais elle ne sera mise en place qu'en 2026. Et il y a peu d'interdictions car des pays comme la France avaient peur de limiter leur développement.
La loi prévoit que les règles s'adaptent selon les risques. Les entreprises de l'IA qui travaillent dans des sujets sensibles comme l’éducation, la gestion du personnel, la police... auront plus d'obligations à respecter avant que leur utilisation soit autorisée dans les pays de l'UE. Il faudra, par exemple, contrôler que les droits et libertés des personnes soient bien respectés.
La loi interdit la surveillance de masse (autorisée en Chine), c'est-à-dire le recueil d'informations sur les activités d'un grand nombre de personnes sur leur téléphone, ordinateur et autres appareils électroniques...
La reconnaissance faciale n'est pas permise dans les lieux publics, sauf en cas de risque terroriste, de disparition d'enfants... Mais son utilisation est possible seulement avec l'accord de la justice.
L'Europe demande qu'il y ait un contrôle humain sur la machine.
Les IA génératives comme ChatGPT devront montrer qu'elles contrôlent la qualité des informations qui leur permettent d'apprendre. Elles devront respecter les droits d'auteur : ne pas voler les créations ou payer pour les utiliser.
Enfin, elles devront noter quand des textes, des images ou des sons sont créés par des IA.

Toujours chercher d'où vient l'information
Il va devenir très difficile de faire la différence entre une image réelle et celles créées par une IA ou de savoir si un article a bien été rédigé par un humain et non par une machine... Il y a des centaines de sites qui proposent de l'information uniquement produite par des IA, sans contrôle humain. Il devient donc très important de vérifier d'où vient l'information. Des spécialistes américains ont recherché comment repérer les textes venant d'IA. Voici quelques-uns de leurs conseils :
• les IA ne font jamais de fautes d'orthographe. S'il y a une faute de frappe, de grammaire, c'est qu'un humain est passé par là
• elles peuvent écrire des bêtises, de grosses erreurs... Amélie Cordier, ingénieure spécialiste des intelligences artificielles, déclarait : « Si vous demandez à une IA d'écrire une recette d'omelette aux œufs de vache, elle peut tout à fait le faire ». Mais, depuis, ChatGPT a appris de ses erreurs. Si une information semble bizarre, un chiffre incroyable..., il faut le vérifier sur d'autres sites
• le plus souvent les IA donnent seulement des faits, elle ne disent pas d'où vient l'information, n'écrivent pas de citations (paroles de personnes) sauf si on le leur a demandé...

Se former à utiliser intelligemment l'IA
Cela commence à arriver dans les programmes scolaires. Les élèves doivent être formés au fonctionnement des algorithmes, des réseaux sociaux... pour pouvoir être critiques.
À tout âge, il faudrait apprendre à utiliser l'IA, comprendre quels en sont les risques et les avantages et savoir s'en libérer parfois.

Rester en relation avec le vivant
Pour l'auteur Alain Damasio, nous devons aussi créer des désirs autres que ceux proposés par les machines, les algorithmes... dont nous devenons dépendants.
Nous devons rester en lien avec la nature, le vivant, continuer à se rencontrer, discuter, s'amuser ailleurs que sur les réseaux sociaux... proposer d'autres imaginaires qui font envie. Car, avec la technologie, devient-on plus humain, plus généreux, plus accueillant, plus lié aux autres ? Alain Damasio rappelle que, pour chaque technologie qu'on nous propose, nous avons le choix, nous ne sommes pas obligés de l'utiliser : «  Je peux décider ». Mais c'est de moins en moins facile...