Boko Haram et l’exploitation des chatbots IA

Une étude récente menée par l’université de Cambridge a mis en lumière une utilisation inquiétante des chatbots IA par le groupe terroriste Boko Haram. Les chercheurs ont découvert que ces technologies, notamment ChatGPT, Claude et Gemini, sont employées pour orchestrer des attaques, fabriquer des explosifs et entretenir des armes.

ISIS et la formation pour contourner les filtres

Depuis 2023, des membres de l’État islamique (ISIS) ont formé leurs commandants à contourner les filtres de sécurité intégrés dans ces chatbots. Cette formation vise à exploiter les failles des systèmes de sécurité pour mener à bien leurs activités malveillantes.

L’échec de l’autorégulation des fournisseurs d’IA

L’étude souligne que les filtres de sécurité des chatbots échouent régulièrement à empêcher les abus. Il est clair que l’autorégulation volontaire des fournisseurs d’IA n’est pas suffisante pour prévenir ces détournements.

Les implications pour la sécurité

Le fait que Boko Haram et ISIS exploitent les failles de sécurité des chatbots IA souligne l’importance de réglementer plus sévèrement l’utilisation de ces technologies. Les autorités devraient prendre des mesures pour prévenir la diffusion d’IA malveillante et protéger les citoyens contre les attaques menées par ces groupes.