18e FSS Security Talk | L'IA générative : un outil de production performant ou un risque fondamental pour la sécurité?, 26. Août 2024
Lors du 18e FSS Security Talk, sept experts ont discuté de l'importance de l'IA classique et générative, des énormes opportunités, mais aussi des grands risques, de la dernière évolution informatique. Avec la publication de ChatGTP fin 2022, non seulement les spécialistes, mais aussi une grande partie de la population, ont compris pour la première fois le potentiel disruptif de cette technologie. Les dirigeants des grands groupes technologiques comme Microsoft, Google, Apple, Amazon, etc. sont convaincus que le développement de l'IA générative est aussi fondamental que l'invention du téléphone portable, du microprocesseur, de l'électricité ou même du feu. En effet, l'intelligence artificielle générative peut pour la première fois non seulement prédire la réponse « la plus probable », comme le faisait l'IA prédictive classique avant elle, mais aussi générer réellement des outputs « créatifs », ce qui a longtemps été considéré comme une caractéristique typiquement unique de l'être humain.
Il est ainsi possible de créer en un clin d'œil des fichiers texte, image et audio, entre autres. L'utilisation de cette nouvelle technologie comporte toutefois des risques considérables. Les modèles d'IA générative peuvent, dans certains cas, avoir des hallucinations et générer ainsi des sorties inutiles ou erronées. Ils risquent également d'être utilisés par des acteurs malhonnêtes pour commettre des fraudes, manipuler l'opinion publique ou semer la confusion dans la population. Plus cette technologie s'établit, plus la confiance de l'utilisateur devient importante. Cette confiance naît lorsque les entreprises technologiques proposent des produits sûrs et éthiques et qu'il existe en outre une réglementation judicieuse.
Les experts du 18e FSS Security Talk étaient donc d'accord sur le fait que des questions éthiques centrales devront être clarifiées dans un avenir proche. Des thèmes tels que les biais, la transparence, la responsabilité et les conséquences sociales potentielles seront au centre des préoccupations. Parallèlement, l'intelligence artificielle générative est un outil qui permet d'étendre ou d'améliorer ses propres capacités. Il est toutefois essentiel d'éduquer la population en conséquence. D'une part, il faut apprendre à utiliser les nouveaux outils afin que leur potentiel puisse être exploité de la manière la plus profitable possible. D'autre part, il faut faire prendre conscience des objectifs malveillants pour lesquels cette technologie peut être utilisée. La qualité typiquement humaine de la pensée critique jouera ici un rôle central.
En présence de près de 100 participants intéressés, des experts renommés tels que Katharina Fulterer (partenaire Data & AI chez Eraneos), Stefan Preuss (responsable du département Emerging Technologies Audit à la Mobilière), Dr. Thomas Rothacher (responsable Science et Technologie chez armasuisse), Jennifer Victoria Scurrell (doctorante au Center for Security Studies), Patrick Fontana (Digital & App Innovation Specialist chez Microsoft), Dr. Peter Friedli (partenaire Public Security chez Eraneos) et Lisa Kondratieva (Head of AI chez ti&m) ont tenu des conférences et des discussions.
Le FORUM SÉCURITÉ SUISSE (FSS) fait le bilan d'un événement réussi et remercie toutes les personnes présentes pour leur participation.
Vous trouverez le rapport de synthèse détaillé avec les conclusions passionnantes des exposés d'introduction et de la discussion en panel ici.
Vous trouverez le programme du talk et les panélistes ici.
Galerie de photos :
