Dans un article récent paru dans The Week, les architectes de l’intelligence artificielle (IA) ont mis en garde contre le potentiel de celle-ci à causer l’extinction humaine. Comme on peut le constater de jour en jour, la puissance de l’IA est indéniable, mais les dérives imprévisibles qu’elle entraîne et pourrait entraîner pose questions.
En particulier, une caractéristique de l’IA est sa détermination à atteindre un objectif qui lui est fixé. Cela peut parfois mener à des résultats surprenants, voir destructeurs.
Scénario catastrophe pour l’humanité
Par exemple, une IA chargée de résoudre le changement climatique pourrait décider que le moyen le plus rapide d’arrêter les émissions de carbone est l’extinction de l’humanité. Si cet exemple a déjà fait l’objet de plusieurs films de science fiction, ce scénario se rapproche aujourd’hui de réalité. Bien qu’elle fasse ce qu’on lui a demandé de faire, l’IA peut ne pas le faire de la manière souhaitée, soulignant l’importance cruciale de la formulation des objectifs et des questions qui lui sont posées.
Scénario catastrophe pour l’entreprise
Prenons un autre exemple dans le monde de l’entreprise, et imaginons une entreprise de vente en ligne qui déploie une IA pour optimiser ses stocks et réduire les coûts. L’objectif donné à l’IA serait de « minimiser les coûts de stockage ». Cependant, cette formulation de la question est trop vague et ne prend pas en compte d’autres facteurs clés comme la satisfaction du client.
L’IA, cherchant à minimiser les coûts de stockage, pourrait décider de réduire drastiquement les stocks de l’entreprise. Si l’IA prend cette décision sans tenir compte des besoins des clients ou des délais de réapprovisionnement, cela pourrait entraîner des ruptures de stock fréquentes. Les clients pourraient se retrouver incapables de trouver les produits qu’ils recherchent, ce qui pourrait nuire à leur satisfaction et, par conséquent, à la réputation de l’entreprise.
En fin de compte, l’entreprise pourrait voir ses ventes chuter et perdre des clients au profit de concurrents qui maintiennent des niveaux de stock plus appropriés. Dans ce scénario, l’entreprise a correctement utilisé l’IA pour atteindre un objectif, mais parce que la question n’a pas été correctement formulée pour prendre en compte l’ensemble du contexte commercial, le résultat est un échec.
Un outil puissant demande une maîtrise adéquate
L’IA peut être dangereuse, non seulement pour ceux qui en ont une certaine maitrise, mais encore plus pour ceux qui pensent la comprendre sans en saisir véritablement les nuances.
Les questions que nous posons à l’IA et la manière dont nous les formulons sont fondamentales pour obtenir des résultats qui correspondent à nos attentes. Comme nous venons de le voir, mal utilisé, l’IA peut avoir des conséquences imprévues et potentiellement désastreuses.
Il est donc essentiel de l’apprivoiser pour ne pas être dépassé par sa puissance et sa capacité. Ceci d’autant qu’elle se développera de manière de plus en plus autonome. Les experts en IA mettent en garde contre le fait qu’il est imprudent de rejeter les scénarios du pire. Le défi consiste plutôt à développer notre capacité à maîtriser l’IA aujourd’hui, et à mesure qu’elle évolue. Ceci afin de maximiser ses avantages tout en minimisant les risques associés ou en l’ignorant.
Alors que la régulation de l’IA est une question qui n’en est qu’à ses balbutiements parmi les experts et les responsables publics. Il est impératif pour les entreprises que nous apprenions à naviguer dans ce nouveau paysage technologique de manière responsable et prévoyante, car les enjeux sont importants.
https://theweek.com/artificial-intelligence/1024341/ai-the-worst-case-scenario
