# 55 - Préparer le monde aux défis de l’IA – avec Charbel-Raphaël Segerie

The Flares - Podcasts

⚠️ Découvrez du contenu EXCLUSIF (pas sur la chaîne) ⚠️ ⇒ https://the-flares.com/y/bonus/ ⬇️⬇️⬇️ Infos complémentaires : sources, références, liens... ⬇️⬇️⬇️ Le contenu vous intéresse ? Abonnez-vous et cliquez sur la 🔔 Vous avez aimé cette vidéo ? Pensez à mettre un 👍 et à la partager. C'est un petit geste qui nous aide grandement 🥰 ⚠️ Essayez GRATUITEMENT "The Flares Premium" ⚠️ ⇒ https://the-flares.com/y/premium/ Sommaire : 0:00:00 Introduction de l'invité 0:07:51 Le centre pour la sécurité de l'IA 0:12:18 Définition d'une AGI 0:21:57 Timeline d'une IA Générale ? 0:34:56 La mise à l'échelle des systèmes d'aujourd'hui sera-t-elle suffisante pour atteindre la généralité ? 0:41:10 Les capacités impressionnantes des modèles d'aujourd'hui 0:45:07 Les risques des agents IA 0:51:34 Quelles sont les prochaines capacités qui seraient dangereuses à obtenir pour une IA ? 1:02:02 Quelles sont les pistes pour les rendre les plus sécurisées possibles ? 1:19:05 Open source ou systèmes fermés 1:28:24 Le Pdoom ou probabilité d'extinction 1:34:15 Les objections les plus solides aux risques catastrophiques de l'IA 1:41:59 Comment une super IA pourrait causer notre extinction ? 1:53:17 Les scenarios positifs 1:59:21 Ressources pour en apprendre plus 2:00:15 Que faire pour contribuer aux solutions ? ----------------------------------------------------------------- ✍️ QUI EST DERRIÈRE CE CONTENU ? ☕ ➡ Production : The Flares - https://the-flares.com ➡ Realisation : Gaëtan Selle - https://www.the-flares.com/y/gaetan-selle/ ➡ Animateurs : Gaëtan Selle - https://www.the-flares.com/y/gaetan-selle/ ----------------------------------------------------------------- 🌎 SUIVEZ-NOUS 🌎 💬 Discord : https://the-flares.com/y/discord 💬 Communauté : https://the-flares.com/y/communaute 🐦 Twitter : https://the-flares.com/y/twitter 👨 Facebook : https://the-flares.com/y/facebook ▶️ Youtube : https://the-flares.com/y/youtube 👕 Goodies : https://the-flares.com/y/goodies ----------------------------------------------------------------- 🔊 PODCAST AUDIO 🔊 📱 Sur votre téléphone : https://the-flares.com/y/podcast ☁ Soundcloud : https://the-flares.com/y/soundcloud 🌐 Apple Podcasts : https://the-flares.com/y/applepodcasts ----------------------------------------------------------------- 💡 SOURCES & RÉFÉRENCES 💡 ➡ LinkedIn de Charbel-Raphaël Segerie : https://www.linkedin.com/in/charbel-raphael-segerie/?originalSubdomain=fr ➡ Le Centre pour la Sécurité de l'IA (CeSIA) : https://www.securite-ia.fr/ ➡ Rapport de Joe Carlsmith sur la manipulation des IA https://arxiv.org/abs/2311.08379 ➡ Article académique AI Deception: A Survey of Examples, Risks, and Potential Solutions https://arxiv.org/abs/2308.14752 ----------------------------------------------------------------- 👩‍🚀 QUI SOMMES-NOUS ? 👨‍🚀 https://the-flares.com/y/about ----------------------------------------------------------------- 📧 CONTACTEZ-NOUS 📧 https://the-flares.com/y/contact ----------------------------------------------------------------- #AvenirDuMonde #IntelligenceArtificielle Bienvenue dans ce nouvel épisode du podcast “la prospective” de The Flares, ici Gaëtan. Dans cet épisode, je reçois Charbel-Raphaël Segerie. Il est directeur exécutif du CeSIA (Centre pour la sécurité de l’IA), où il dirige la recherche et l’enseignement en sécurité de l’intelligence artificielle. Il enseigne un cours sur la sécurité de l’IA à l’École Normale Supérieure. Son travail se concentre sur la caractérisation complète des risques émergents liés à l’intelligence artificielle, sur l’interprétabilité, sur les défis associés aux méthodes de sécurité actuelles telles que l’entraînement par renforcement avec feedback humain (RLHF), ainsi que sur les approches de conception... ⬇️ Lisez la suite ici ⬇️ https://the-flares.com/y/avenir-du-monde/intelligence-artificielle/defis-risques-ia-charbel-raphael-segerie/