Comment se prémunir des IA malveillantes ?
La déferlante d’annonces quotidiennes sur les dernières avancées techniques réalisées par les géants de l’IA ou encore la mise à disposition du grand public de modèles génératifs aussi versatiles que puissants esquisse les contours de profondes transformations dans des domaines aussi divers que l’éducation, le travail, la santé, le divertissement ou encore le commerce.
Le phénomène historique de coévolution entre la délinquance et la technologie implique par conséquent que l’IA va inévitablement représenter une technologie de rupture pour les acteurs malveillants, qui y trouveront de précieuses ressources afin d’amplifier les profits criminels générés par la cybercriminalité. Le milliardaire américain Warren Buffett s’est d’ailleurs inquiété de cette évolution dans son plus récent rapport aux actionnaires de la société d’investissement Berkshire Hathaway, affirmant que l’escroquerie propulsée par l’IA pourrait devenir l’industrie la plus lucrative de tous les temps.
Si les problèmes éthiques soulevés par les biais inhérents à l’IA et sa propension à reproduire les discriminations sociales ont jusqu’à présent capté l’attention, les enjeux de sécurité apparaissent avec plus de netteté, venant tempérer les immenses gains attendus. Comme pour bien d’autres technologies, les bénéfices promis ne se matérialiseront que si les risques afférents peuvent être efficacement contrôlés. L’équilibre instable que ce type de tension génère est familier de secteurs comme le transport aérien, l’industrie nucléaire ou les entreprises pharmaceutiques.
Il existe toutefois encore une grande confusion dans les discours sur les risques découlant des usages malveillants de l’IA, qui oscillent entre l’insouciance lénifiante des géants du secteur, accaparés par la capture de parts de marché leur garantissant une rentabilité encore élusive, d’une part, et les prédictions apocalyptiques d’experts qui agitent le spectre d’une extinction de l’espèce humaine par une superintelligence arti