IA Générative et Entreprises : Avantages et Risques

Depuis cinq décennies les progrès technologiques dans des domaines aussi variés que l’informatique, les matériaux, les mobilités, le stockage de l’énergie, l’Intelligences artificielle (IA), transforment les entreprises autant qu’elles impactent leurs productions (agriculture, industrie, services), leurs échanges matériels (commerce) et immatériels (connaissances, savoir-faire)

IA générative super-star encore fragile

Essor des intelligences artificielles

Actuellement, près de 75 % des grandes entreprises ont déjà intégré les IA dans leurs stratégies.

Depuis quelques années l’émergence de l’intelligence artificielle générative (IA Gen) offre de nouvelles voies de progrès technologiques et socio-économiques par sa capacité à produire du texte, des images, des sons, du code à partir d’une quantité gigantesque de données brassées par des calculs statistiques sophistiqués gérés par un entrelacs d’algorithmes.

De très nombreux chefs d’entreprise (97 %) estiment que l’IA Gen transformera leur secteur et jouera un rôle majeur dans leurs stratégies au cours des trois à cinq prochaines années.

Parmi ces dirigeants, 31 % ont déjà réalisé des investissements importants dans des initiatives connexes et 99 % prévoient de les augmenter.

Au total les investissements mondiaux dans les IA ont dépassé la barre de 100 milliards de dollars en 2024 et les géants de la Tech Alphabet, Amazon, Meta et Microsoft prévoient d’investir plus de 650 milliards de dollars en 2026 dans les IA dont le marché global devrait atteindre 1 000 milliards de dollars d’ici 2031 avec plus de 1,1 milliard d’utilisateurs (Statista)

Pourquoi un tel intérêt ?

Les IA et plus particulièrement l’IA Gen promettent de donner un accès sans précédent à des informations hyper-spécifiques et personnalisées, d’accélérer l’innovation grâce à une approche interdisciplinaire et d’accroître la productivité afin d’aider les entreprises à résoudre des problèmes complexes.

A l’échelle internationale on peut espérer que ces progrès permettent de faire face aux défis mondiaux, notamment les conflits géopolitiques, la crise climatique, la forte inflation et les effets persistants de la pandémie de COVID-19 qui convergent pour freiner considérablement les progrès d’une économie mondiale prospère et respectueuse des grands équilibres planétaires.

Cependant,

Nous n’en sommes qu’aux prémices d’une possible révolution de l’IA Gen, dont les imperfections techniques doivent être corrigées et les risques environnementaux et sociaux maîtrisés, faute de quoi l’IA Gen pourrait devenir à une technologie plus néfaste que bénéfique.

Dans ces conditions et si l’IA Gen tient ses promesses nous atteindrons une étape décisive pour que son déploiement responsable libère tout son potentiel.

Opportunités pour les entreprises

Le potentiel de l’IA Gen pour créer de la valeur repose sur trois capacités fondamentales : le traitement de données, la navigation vers les informations pertinentes et l’amplification des connaissances.

Combinée à d’autres compétences métiers, l’IA Gen peut aider les entreprises à proposer des offres nouvelles, à être plus efficientes (yc pour accomplir des tâches risquées), à réduire leurs coûts et à relever des défis collectifs complexes comme le progrès des soins de santé, la lutte contre le dérèglement climatique et la sécurité alimentaire, grâce au diagnostic précoce des maladies, à la réduction de la consommation d’énergies polluantes et l’optimisation du rendement des cultures.

Nous ne détaillerons pas plus ces performances (existantes ou futures) car elles sont abondamment décrites par les « fournisseurs » d’IA et leurs bruyants laudateurs

Risques pour les entreprises

Opacité

Les systèmes d’IA Gen sont utilisés dans des processus critiques, du recrutement de personnel d’exécution à la surveillance d’unités de production. L’importance de ces tâches exige traçabilité, transparence et responsabilité pour une gestion optimale des risques.

Toutefois, les entreprises s’appuient sur un écosystème de multiples partenaires tiers pour développer l’infrastructure, les modèles et les données de leurs solutions d’IA Gen ; cela risque d’engendrer un de lacunes en matière de responsabilités.

Les sources de données externes peuvent contenir des données mal qualifiées ou protégées par le droit d’auteur. Les développeurs peuvent ne pas expliquer, voire même comprendre, le fonctionnement d’un modèle (effet boite noire). Les utilisateurs finaux peuvent manquer de transparence dans l’utilisation et la validation des résultats de l’IA Gen. Conjuguée à l’incertitude inhérente à toute technologie émergente, cette absence de transparence amplifie les autres risques.

Incertitudes et biais

À l’instar des humains qui les créent, les modèles d’IA Gen sont sujets aux biais et à l’incertitude. Leur utilisation peut, involontairement, introduire ou perpétuer des biais raciaux, socio-économiques et autres. Même avec les meilleures intentions, les biais peuvent se propager du monde réel au monde numérique en perpétuant des hypothèses erronées formulées lors de la conception et du réglage des modèles, en reproduisant des schémas dans des données d’entraînement incomplètes ou mal étiquetées, et en renforçant les biais existants chez les utilisateurs.

Les modèles peuvent également présenter de fausses informations comme des faits incorrects (phénomène connu sous le nom d’hallucination ou de confabulation) et être manipulés pour générer des résultats toxiques ou offensants. De plus, les capacités prédictives, au cœur de l’adaptabilité de l’IA Gen, impliquent que les résultats sont probabilistes, ce qui les rend difficiles à reproduire, même avec des entrées identiques.

Seuls des garde-fous adéquats, rendus possibles par la transparence et la reproductibilité, peuvent empêcher les erreurs, les biais, la toxicité et la confabulation de s’infiltrer dans les systèmes d’IA Gen.

Confidentialité et sécurité des données

Les applications d’IA Gen peuvent révéler par erreur des informations personnelles ou des informations confidentielles, exposant ainsi les entreprises à des risques de violation des réglementations de sécurité des données, tels que le RGPD.

En effet, les vastes ensembles de données au cœur des modèles d’IA Gen peuvent ne pas être correctement audités et contenir des informations sensibles. Même avec un contrôle rigoureux des données, la capacité de l’IA Gen à indexer d’énormes quantités d’informations publiques et à établir des liens entre différents points de données, combinée à son absence de jugement humain, crée un risque de découverte et de divulgation accidentelles de données personnelles ou confidentielles.

Détournement

Enfin, la manière dont les utilisateurs interagissent avec l’IA générale est déterminante pour son impact sur les populations et la planète. Sans garanties adéquates, l’IA générale peut être utilisée pou diffuser de la désinformation via des contenus synthétiques hyperréalistes tels que les hypertrucages (deepfakes en anglais), en fournissant des indications pour la création d’armes numériques ou d’armements tactiques, en propageant des contenus trompeurs ou violent. Les utilisateurs pourraient également manipuler intentionnellement les modèles d’IA Gen pour produire des résultats toxiques ou enfreindre la confidentialité des données, aggravant ainsi les risques décrits ci-dessus.

Compte tenu des risques liés à la désinformation et à la mésinformation, nous devons privilégier la culture numérique et l’éducation à l’IA afin de permettre à chacun de distinguer le vrai du faux, de développer un esprit critique face à l’information et de discerner la véracité des informations.

Voracité (énergie, matériaux)

Comme toute technologie numérique, les modèles d’IA Gen nécessitent des centres de données gourmands en ressources pour l’entraînement et l’inférence, ce qui entraîne une forte consommation d’énergie, d’eau et de matériel informatique.

L’expansion de l’IA Gen augmente considérablement la consommation d’électricité dans les centres de données, qui représentait déjà plus 1,5 % de la consommation énergétique mondiale en 2024.

L’eau douce est consommée en très grandes quantités pour le refroidissement des centres de données et des centrales électriques, ce qui peut avoir effets délétères sur les écosystèmes locaux et la sécurité hydrique régionale.

L’extraction et le raffinage des métaux nécessaires au matériel engendrent des coûts environnementaux et sociaux, et certains métaux, comme l’or, le cobalt et le tungstène, présentent également un risque élevé de financement occulte de zones de conflit.

Les énergies renouvelables ont aussi un coût environnemental et humain lié à l’extraction minière, à la fabrication, à l’installation et à la fin de vie des équipements et des infrastructures.

Paradoxalement, avec les modèles actuels, l’IA Gen peut améliorer l’efficacité énergétique, alors qu’elle accroît la consommation d’énergie.

Menace pour l’emploi

Si le développement de l’IA Gen va créer de nouveaux emplois, elle représente également une menace d’automatisation dans de nombreux métiers.

À l’instar de la révolution industrielle, l’évolution rapide et spectaculaire de la demande de compétences induite par l’IA Gen est susceptible de modifier considérablement la nature et la qualité du travail dans tous les secteurs.

Les fonctions impliquant des tâches numériques répétitives, routinières ou standardisées, telles que le support technique, la rédaction ou la saisie de données, seront probablement les premières à en ressentir les effets, mais les conséquences à long terme sont imprévisibles.

L’utilisation de l’IA Gen par les entreprises nécessitera également de nouvelles compétences ; les entreprises peuvent saisir cette opportunité pour compenser les pertes d’emplois par un plan formation continue adaptée de leur personnel.

L’investissement dans la formation est d’autant plus pertinent que, si tout le monde n’a pas besoin d’être expert en IA, l’IA nous concerne tous.

Creusement des inégalités

Bien que des efforts soient déployés pour diffuser cette technologie dans les contextes à faibles ressources et sous-représentés, les inégalités persistantes d’accès à Internet et à l’électricité seront pénalisantes pour de nombreux bénéficiaires potentiels et certains seront même laissés pour compte.

Si les tendances actuelles se maintiennent, la concentration des connaissances en matière de développement de modèles et de données de qualité dans un petit nombre de pays et de communautés constituera un obstacle supplémentaire pour les autres.

Ces barrières à l’entrée signifient que l’IA Gen risque d’aggraver les inégalités actuelles en creusant les fractures numériques.

Parallèlement à ce creusement des inégalités, la numérisation menace d’exacerber les violations des droits humains touchant les enfants, les femmes, les migrants et d’autres groupes vulnérables.

Ces préjudices peuvent être multiples et difficiles à évaluer compte tenu des difficultés de collecte de données et du manque de directives actuelles. Ils incluent notamment une exposition accrue aux atteintes à la vie privée, à l’exploitation et à l’exclusion numérique.

Les progrès numériques auront de multiples répercussions sur les rapports de force et les droits humains, qu’il est impératif de gérer afin de placer « l’Humain» au cœur de la transformation numérique.

Perspectives

L’intelligence artificielle de nouvelle génération (IA Gen) n’est ni une solution miracle aux défis opérationnels des entreprises, ni une solution universelle. Cependant, cette technologie étant si récente, nous n’avons probablement fait qu’effleurer son potentiel alors que nous sommes déjà exposés à de nombreux risques.

Pour qu’elle soit bénéfique, cette technologie ubiquitaire nécessite la définition d’un cadre éthique et la mise en place d’une gouvernance responsable.

Principales références

• Gen AI for the Global Goals United Nations (2024)
• The Sustainable Development Goals Report, United Nations (2024)
• The art of AI maturity: Advancing from practice to performance, Accenture (2024)
• Reinvention in the age of generative AI, Accenture (2024)
• Generative AI Issues Overview, OECD (2024)
• What Generative AI Can Do for Utilities, SAP (2024)
• Electricity 2024, EA (2024)

Vous avez pu lire cet article rédigé sans recours à l’intelligence artificielle et naviguer sur le site sans être incommodé par de la publicité, des textes sponsorisés ou du traçage commercial alors que la rédaction des publications de ce blog demande un important travail de documentation et le recours à de nombreuses sources d’informations qui ne sont pas gratuites. Pour soutenir cette politique et permettre au blog de progresser avec plus d'illustrations didactiques : images et schémas animé(e)s ou non,c’est ICI