Cybercriminalité IA : le FBI a averti que les pirates informatiques exploitent à tout-va les outils d’intelligence artificielle générative comme ChatGPT.
Le FBI a détaillé ses préoccupations lors d’un appel avec des journalistes et a expliqué que les chatbots basés sur l’IA ont alimenté toutes sortes d’activités illicites. Notamment des escrocs et des fraudeurs perfectionnant leurs techniques aux terroristes consultant les outils sur comment mener des attaques chimiques plus destructrices.
Le FBI avertit face à la cybercriminalité IA
Selon un haut fonctionnaire du FBI, « Nous prévoyons qu’au fil du temps, avec l’adoption et la démocratisation des modèles d’IA, ces tendances s’accroîtront ». Les mauvais acteurs utilisent l’IA pour compléter leurs activités criminelles habituelles, a-t-il poursuivi. Y compris l’utilisation de générateurs de voix basés sur l’IA pour imiter des personnes de confiance dans le but de frauder les proches ou les personnes âgées.
Ce n’est pas la première fois que nous voyons des pirates informatiques prendre des outils comme ChatGPT et les détourner pour créer des logiciels malveillants dangereux. En février 2023, des chercheurs de la société de sécurité Checkpoint ont découvert que des acteurs malveillants avaient réussi à modifier l’API d’un chatbot. Lui permettant de générer du code malveillant et mettant la création de virus à la portée de presque tous les pirates en herbe.
ChatGPT est-il une menace pour la sécurité ?
La position du FBI diffère grandement de celle de certains des experts en cybersécurité que nous avons interrogés en mai 2023. Ils nous ont dit que la menace des chatbots basés sur l’IA a été largement exagérée. La plupart des pirates informatiques trouvant de meilleures failles de code à partir de fuites de données plus traditionnelles et de recherches en source ouverte.
Par exemple, Martin Zugec, directeur des solutions techniques chez Bitdefender, a expliqué que « la majorité des novices en écriture de logiciels malveillants ne sont probablement pas capables » de contourner les gardes-fous anti-malware des chatbots. De plus, a expliqué Zugec, « la qualité du code malveillant produit par les chatbots a tendance à être faible ».
Cela offre un contrepoint aux affirmations du FBI, et nous devrons voir quel côté s’avère être correct. Mais avec OpenAI, qui a discontinué son propre outil conçu pour détecter le plagiat généré par les chatbots, les nouvelles n’ont pas été très encourageantes dernièrement. Si le FBI a raison, des moments difficiles pourraient se profiler dans la lutte contre les pirates informatiques et leurs tentatives de créer des logiciels malveillants alimentés par les chatbots.
0 commentaires