Sommaire
L’univers de l’Intelligence Artificielle, historiquement dominé par les géants de la Silicon Valley, connaît une transformation majeure. Face aux défis persistants des grands modèles linguistiques (LLM), notamment en matière de biais et de performances multilingues insuffisantes, de nouvelles approches émergent. Des projets d’IA plus petits et communautaires proposent une voie alternative, visant à développer des systèmes plus inclusifs et adaptés aux contextes locaux. Ce mouvement coïncide avec une poussée mondiale vers la souveraineté technologique, où des pays comme l’Inde et ceux d’Europe cherchent à réduire leur dépendance vis-à-vis des grandes entreprises technologiques basées aux États-Unis.
Ce basculement n’est pas seulement technologique, il est aussi géopolitique, transformant l’IA en un terrain de compétition internationale plutôt qu’une source de coopération. Au cœur de ces évolutions, la question de la confiance est primordiale, soulevant des interrogations sur les données d’entraînement, la modération de contenu, la vie privée et le rôle de la régulation. Derrière ces interrogations, la question centrale reste : peut-on faire confiance à L’intelligence Artificielle ?
Retrouver en complément de cet article, un podcast sur Patreon en accès libre.
Les défis de la confiance
Les grands modèles linguistiques (LLM) rencontrent des difficultés importantes qui érodent potentiellement la confiance des utilisateurs et des gouvernements. Comme aucun être humain n’est exempt de biais ou de contexte, un modèle d’IA ne peut probablement jamais satisfaire tout le monde. Assurer une représentation équitable dans les données d’entraînement reste un défi. Un problème majeur est que de nombreux systèmes d’IA sont principalement entraînés sur des données en langue anglaise, particulièrement l’anglais américain. Une étude a montré que ChatGPT, par exemple, obtenait de moins bons résultats en chinois et en hindi qu’en anglais et en espagnol pour des requêtes liées à la santé. Les modèles multilingues performent mal avec les langues non-occidentales.
Acer Chromebook 314 CB314-2H-K7AR
Remise en question des réseaux sociaux
Par ailleurs, les systèmes de modération de contenu sur les réseaux sociaux, qui utilisent déjà l’automatisation et les LLM, échouent dans certains domaines, comme la détection de la violence basée sur le genre en Inde, en Afrique du Sud et au Brésil. Si les plateformes dépendent davantage des LLM pour la modération, ce problème pourrait s’aggraver. Bien que les LLM soient utiles pour signaler des schémas, détecter le spam et aider les équipes humaines, ils manquent encore de la nuance nécessaire pour les jugements. Le compromis entre la sur-modération et la sous-protection est réel.
L’IA peut également contribuer à la désinformation, comme l’illustrent les hypertrucages (« deepfakes »). Un compte TikTok a été suspendu pour avoir publié des hypertrucages réalistes de politiciens, dont un faux Mark Carney annonçant le retrait progressif de véhicules anciens. Une information évidemment fausse. Bien que certaines de ces vidéos aient été clairement identifiées comme générées par IA, l’une d’elles, vue des millions de fois, aurait pu facilement être perçue comme une annonce officielle. TikTok exige l’identification des contenus réalistes générés par IA, mais note que certains contenus, même étiquetés, peuvent causer du tort, notamment ceux impliquant des personnalités publiques à des fins politiques ou commerciales. Cela souligne que l’exactitude et la fiabilité des contenus générés ou modérés par l’IA sont cruciales pour établir la confiance.
Une poussée souveraine
Face aux limites des grands modèles centralisés, des alternatives gagnent en popularité. Les petits modèles linguistiques (SLM) et les chatbots communautaires sont soutenus par certains. Selon JD Raimondi, les SLM ont l’avantage de permettre l’accès à un modèle linguistique sans investissement massif en équipement ni dépendance envers de gros fournisseurs, le tout pour une fraction du prix. Bien que leur performance soit inférieure à celle des LLM géants, elle est souvent jugée acceptable. Surtout, les SLM sont plus faciles à entraîner, à adapter, à déployer et à distribuer. Ils sont également plus susceptibles d’être présents sur les appareils mobiles fonctionnant sans connexion Internet tant que le matériel ne s’améliore pas.
Vers une souveraineté technologique ?
Ces alternatives s’inscrivent dans une tendance plus large vers la souveraineté technologique. Des organisations de la société civile ont observé que les grandes entreprises technologiques américaines, dont les utilisateurs dépassent largement les frontières américaines, semblent moins disposées à s’engager auprès des petites bases d’utilisateurs, en particulier les communautés non anglophones. Cela pousse les décideurs politiques et les chefs d’entreprise en Europe à reconsidérer leur dépendance vis-à-vis de la technologie basée aux États-Unis et à développer des alternatives locales, notamment pour l’IA.
Un contenu de qualité, sans publicité.
Vous aimez notre travail ? Soutenez notre indépendance en devenant membre sur Patreon.
Soutenir MyChromebook.frUne souveraineté locale des données
L’Inde, par exemple, prépare le lancement d’un navigateur web indien indigène et a sélectionné trois projets pour répondre à ses besoins en matière de sécurité, de langue et d’utilisabilité. Des startups indiennes comme Shhor AI développent des API de modération de contenu pour les langues vernaculaires indiennes. D’autres initiatives incluent l’effort bénévole de Mozilla pour collecter des données d’entraînement dans des langues autres que l’anglais et le travail de Lelapa AI pour construire des modèles d’IA pour les langues africaines. Plusieurs pays ont annoncé des initiatives d’« IA souveraine » pour garder leurs données hors des États-Unis. L’Union Européenne travaille sur l’Euro Stack, une initiative d’infrastructure numérique, tandis que le gouvernement indien a développé l’India Stack. Ces efforts visent à construire des écosystèmes numériques plus locaux et contrôlés, susceptibles d’inspirer une plus grande confiance.
Question cruciale de la vie privée
L’IA est devenue un thème central de la compétition technologique mondiale. Le récent Sommet de l’IA à Paris a montré d’importantes rivalités, indiquant que l’IA est désormais une source de compétition géopolitique plus qu’une cause de coopération internationale et de gouvernance multilatérale. La poussée de l’Europe vers la souveraineté technologique est accélérée par certaines politiques américaines.
Dans ce contexte, la régulation de l’IA devient primordiale. La question de savoir si les gouvernements sont les mieux placés pour décider des langues et des perspectives à inclure dans les données d’entraînement est complexe. Ruban Phukan suggère que les gouvernements devraient aider à garantir la transparence, l’accès à des ensembles de données linguistiques diversifiés et créer des réglementations de sécurité, mais qu’une implication trop lourde pourrait ralentir l’innovation. Il plaide pour un environnement politique favorable aux SLM open-source, en particulier dans les langues sous-représentées, soulignant la nécessité de « garde-fous, pas de gardiens ». L’implication gouvernementale pourrait être problématique si elle dicte les langues ou perspectives prioritaires.
Une approche différente face à l’IA
Les approches réglementaires varient à l’échelle mondiale ; la Chine et l’UE utilisent une approche descendante (command and control), tandis que la Russie et le Royaume-Uni préfèrent l’auto-régulation basée sur l’éthique de l’IA. Une étude suggère qu’une réglementation IA stricte est préférable en cas de forte ou faible concurrence étrangère, tandis qu’une réglementation plus souple est recommandée en cas de concurrence intermédiaire. Cela montre que le contexte et la perspective globale sont significatifs pour un modèle d’IA.
La vie privée est une préoccupation majeure à l’ère numérique, exacerbée par les nouvelles technologies. L’IA, en consommant d’énormes quantités de données, y compris personnelles, pose des risques accrus. L’usage des algorithmes entraînés peut porter atteinte aux droits en facilitant la création de fausses informations, en multipliant les décisions automatisées et en permettant de nouvelles formes de suivi et de surveillance des individus.
Jusqu’à quand le RGPD pourra nous protéger ?
Le Règlement Général sur la Protection des Données (RGPD) en Europe vise à protéger les données personnelles face à l’ampleur croissante de leur collecte et de leur partage. Cependant, le public est souvent insuffisamment informé sur la collecte de données, et les entreprises peuvent cultiver un sentiment de « résignation numérique » en exploitant ce manque de connaissances pour normaliser la maximisation de la collecte de données. Pour protéger la vie privée en ligne, il faut s’attaquer à cette résignation. Des guides sur la cybersécurité et l’hygiène numérique offrent des conseils pour gérer sa vie privée et réduire son empreinte numérique. Le droit face aux algorithmes, notamment en milieu professionnel, est également un sujet de préoccupation pour la protection de la vie privée.
La CNIL en France explore comment promouvoir une IA innovante tout en respectant la vie privée. Elle a créé un service dédié à l’IA et lancé un plan d’action pour clarifier les règles et soutenir l’innovation responsable. Des programmes d’accompagnement ciblent des projets utilisant l’IA pour les services publics et des entreprises innovantes, cherchant à équilibrer innovation et protection des personnes.
Peut-on faire confiance à l’Intelligence Artificielle ?
En fin de compte, assurer la confiance en l’IA implique de s’attaquer aux biais, d’améliorer les performances multilingues, de garantir une modération fiable, de protéger la vie privée et de mettre en place une régulation réfléchie qui soutient l’innovation tout en protégeant les droits fondamentaux. C’est un processus continu et complexe alors que la technologie et la société continuent d’évoluer.
En résumé …. questions/réponses
- Pourquoi les grands modèles linguistiques (LLM) actuels sont-ils considérés comme ayant des biais ? Ils sont souvent entraînés principalement sur des données en anglais américain, ce qui peut entraîner de moins bonnes performances et une représentation inéquitable pour d’autres langues et cultures, introduisant ainsi des biais.
- Qu’est-ce qu’un « small language model » (SLM) et quel est son avantage principal ? Un SLM est un modèle linguistique plus petit que les LLM. Son avantage est d’être plus accessible financièrement, plus facile à entraîner, à adapter et à déployer, offrant ainsi une alternative aux entreprises et initiatives qui ne peuvent pas investir massivement dans les LLM géants.
- Qu’est-ce que la « souveraineté technologique » dans le contexte de l’IA ? C’est la volonté des pays de développer leurs propres technologies et infrastructures numériques (comme des navigateurs web indigènes ou des « stacks » numériques) pour réduire leur dépendance vis-à-vis des grandes entreprises technologiques étrangères (souvent américaines) et mieux contrôler leurs données et leur écosystème numérique.
- Comment l’IA impacte-t-elle la vie privée et la confiance ? L’IA consomme beaucoup de données personnelles pour l’entraînement, ce qui pose des risques en matière de vie privée. De plus, l’IA peut être utilisée pour générer de la désinformation (hypertrucages) ou pour une modération de contenu inefficace, ce qui nuit à la confiance dans les plateformes et les informations diffusées.
