La superintelligence imaginée
Le concours créatif sur les risques de la superintelligence
Remarques relatives aux concours
Contenu
Bulletin de participation
Introduction
Plusieurs des plus grandes entreprises technologiques, dont Meta et OpenAI, ont récemment réaffirmé leur engagement à concevoir une IA plus performante que l'homme dans toute une série de domaines. De plus, elles engagent d'énormes ressources pour atteindre cet objectif.
Les enquêtes montrent que le public est préoccupé par l'IA, surtout lorsqu'elle menace de remplacer la prise de décision humaine. Cependant, le discours public aborde rarement les conséquences fondamentales de la superintelligence : si nous créons une classe d'agents supérieure aux humains dans tous les domaines, l'humanité doit s'attendre à perdre le contrôle.
Un tel système présenterait des risques significatifs de déresponsabilisation de l'homme, voire même d'extinction. Les experts en IA ont averti le public des risques d'une course à la superintelligence, et ont signé une déclaration affirmant que l'IA comportait des risques d'extinction. Ils ont même réclamé une pause du développement de la "frontier AI".
Tout système, dont les performances dépassent celles des humains les plus experts dans un très large éventail de tâches cognitives, correspond à notre définition d'un système d'IA superintelligent.
Un système superintelligent peut être constitué d'un seul système très puissant ou de plusieurs systèmes moins puissants, travaillant simultanément pour surpasser les humains. Un tel système peut être développé en partant de zéro et en utilisant de nouvelles méthodes d'apprentissage de l'IA. Il peut également résulter d'un système d'IA moins intelligent, capable de s'améliorer lui-même (auto-amélioration récursive), conduisant ainsi à une explosion d'intelligence.
Un tel système pourrait bientôt voir le jour : les chercheurs en IA pensent qu'il y a 10 % de chances qu'un tel système soit développé d'ici 2027 (Remarque : la prédiction concerne la “High-Level Machine Intelligence” (HLMI), voir le paragraphe 3.2.1 à la page 4).
Le Future of Life Institute organise ce concours, afin de générer des projets qui explorent ce que sont la superintelligence, les dangers et les risques liés au développement d'une telle technologie, ainsi que les répercussions et les conséquences qui en résulteraient pour notre économie, notre société et notre monde.
Votre projet
Votre projet a pour objectif d'aider le public que vous avez sélectionné à répondre à la question fondamentale suivante :
Qu'est-ce que la superintelligence et comment peut-elle menacer l'humanité ?
Nous voulons découvrir des analyses audacieuses, ambitieuses, créatives et instructives de la superintelligence. Les projets soumis doivent être des outils efficaces visant à inciter les gens à réfléchir sur la direction prise par le développement de l'IA, tout en restant axés sur la recherche et sur les idées existantes relatives à cette technologie. Enfin, ils doivent pouvoir circuler facilement et avoir un impact sur un large auditoire. Nous espérons que les projets pourront toucher des auditoires qui n'ont pas encore été confrontés à ces idées, les informer sur les systèmes d'IA superintelligents et les inciter à réfléchir sérieusement à l'impact de ces systèmes sur les choses qui leur sont importantes.
Moyens
Tout format textuel / visuel / auditif / spatial (p. ex. des vidéos, des animations, des installations, des infographies, des jeux vidéo, des sites Web), y compris des supports multimédia. Le format peut être physique ou numérique, mais le projet final doit être hébergé en ligne et soumis sous forme numérique.
Les candidats retenus peuvent inclure des vidéos, des animations et des infographies. Nous aimerions voir davantage de supports créatifs, tels que des jeux vidéo, des romans graphiques, des œuvres de science-fiction, des expositions numériques et autres, pour autant qu'ils répondent à nos critères d'évaluation.
Les prix
Les prix seront attribués aux cinq projets soumis les mieux notés en fonction de nos critères d'évaluation, selon le vote de nos juges. Nous pouvons également publier des "mentions honorables" sur le site Web du concours - ces projets ne recevront aucun prix.
La participation au concours est gratuite.
Littérature recommandée
Vous pouvez consulter les ouvrages suivants ayant pour thème la superintelligence :
Introduction à la superintelligence
Ces ressources sont une introduction au thème de la superintelligence, à différents niveaux d'approfondissement :
- Mythes et faits concernant l'IA superintelligente [Vidéo] MinutePhysics. 2017
- The AI Revolution: The Road to Superintelligence. Attendre, mais pourquoi. 2015
- La superintelligence [Livre] Nick Bostrom. 2014
Les risques de la superintelligence et comment les atténuer
Les ressources suivantes donnent des arguments expliquant pourquoi la superintelligence pourrait présenter des risques pour l'humanité, et ce que nous pourrions faire pour les atténuer :
- Introductory Resources on AI Risk. Future of Life Institute. 2023
- An Overview of Catastrophic AI Risks. CAIS. 2023
- Scénarios catastrophes en matière d'IA Future of Life Institute. 2024
- How to Keep AI Under Control [Video] Max Tegmark, TED. 2023
- Notes on Existential Risk from Artificial Superintelligence. Michael Nielsen. 2023
Arguments contre les risques de la superintelligence
Tout le monde n'est pas d'accord sur le fait que la superintelligence est un risque pour l'humanité. Même si vous êtes d'accord avec nous pour dire que c'est le cas, votre auditoire cible peut être sceptique - vous pouvez donc souhaiter aborder certains de ces contre-arguments dans votre œuvre d'art :
- Counterarguments to the basic AI x-risk case. Katja Grace. 2022
- Don't Fear the Terminator. Anthony Zador et Yann LeCun. 2019
- A list of good heuristics that the case for AI x-risk fails. David Krueger. 2019
Cette courte liste est tirée des articles du blog écrits par Michael Nielsen.
Accueillir des événements
Si vous souhaitez organiser un événement ou un atelier pour que les participants élaborent des projets pour ce concours, vous pouvez volontiers le faire. Veuillez nous contacter pour vous assurer que la structure de votre événement corresponde à nos critères d'éligibilité et obtenir un soutien supplémentaire si vous souhaitez.
Votre projet
Votre projet doit inclure les éléments suivants :
- Matériel créatif (doit être numérisé, disponible sur une adresse URL)
- Résumé de votre œuvre d'art (2-3 phrases) décrivant votre soumission
- Détails de l'équipe : noms des membres, adresses mail, lieux, rôles dans le projet
La liste complète des champs à remplir figure dans le formulaire de candidature. Vous pouvez enregistrer un brouillon de votre projet et inviter d'autres personnes à coopérer sur un même projet.
Calendrier du concours
Les supports des projets resteront la propriété intellectuelle (IP) du candidat. En signant cet accord, le candidat accorde au FLI une licence mondiale, irrévocable et libre de droits pour l'hébergement et la diffusion du support. Cela impliquera probablement une publication sur le site Web du FLI et la diffusion de messages dans les médias sociaux.
Les candidats ne doivent pas publier les supports de leur projet avant l'annonce des lauréats du concours, sauf pour mettre le dossier à la disposition de nos juges. Après l'annonce des lauréats, tous les candidats peuvent publier leur projet avec le support qu'ils souhaitent - nous les encourageons d'ailleurs à le faire.
Les soumissions gagnantes et les mentions honorables seront publiées sur la page web du concours, partagées sur nos canaux de médias sociaux et distribuées à notre public afin qu'elles puissent être vues et appréciées. Ces documents resteront sur notre site pour une durée indéterminée.
Les documents publiés avant la date limite de soumission ne sont pas éligibles pour ce concours. Ce concours est destiné à générer de nouveaux documents.
Les candidats sont autorisés à soumettre autant de candidatures qu'ils le souhaitent, mais ne peuvent recevoir qu'un seul prix. Les candidats ne peuvent travailler que dans une seule équipe, mais ils peuvent envoyer des projets à la fois en tant qu'équipe et en tant qu'individus.
Les équipes doivent partager l'argent gagné avec tous les membres de l'équipe.
Après l'annonce des lauréats, les projets présentés sur notre site Web doivent être mis gratuitement à la disposition de nos utilisateurs. C'est pourquoi vous souhaitez peut-être produire une démonstration gratuite de votre projet, si vous souhaitez vendre la version complète ailleurs.
Rejoindre la communauté
En tant qu'équipe, nous pouvons réaliser de plus grandes choses ayant une meilleure qualité. Si vous souhaitez former ou rejoindre une équipe, inscrivez-vous dans notre espace communautaire numérique pour nouer des contacts avec d'autres candidats, trouver des personnes ayant des compétences complémentaires, partager des idées de projets et coopérer.
Les juges
Critères
Une communication efficace sur les risques de la superintelligence
En fin de compte, nous voulons voir des propositions qui peuvent accroître la sensibilisation et l'engagement à l'égard des risques de la superintelligence. Il est donc essentiel que votre œuvre communique ces risques d'une manière efficace pour le public visé.
Par exemple, il peut s'agir d'étudier soigneusement votre auditoire, de tester un prototype et d'intégrer leurs commentaires.
Nous considérons ce critère comme étant le plus important - les candidatures qui ne répondent pas à ce critère ont très peu de chances d'être retenues.
Exactitude scientifique et plausibilité
Nous recherchons des projets présentant des idées cohérentes avec la science de l'IA et les risques associés et/ou qui décrivent des scénarios plausibles dans le monde réel. Si votre œuvre d'art présente les risques de façon irréaliste, il est peu probable qu'elle incite l'auditoire à prendre le problème au sérieux.
Par exemple, vous pourriez souhaiter étudier une partie de la littérature existante sur l'IA/la superintelligence plus intelligente que l'homme pour que votre œuvre d'art s'appuie sur des idées et des cadres existants, ou pour intégrer certains détails techniques à votre œuvre art.
Portée et accessibilité
Nous voulons que vos projets soient vus et appréciés par un grand nombre de personnes. Nous considérons que c'est un bonus si votre projet peut être largement diffusé sans perdre de son efficacité. Pensez à choisir un support ou un format qui peut être apprécié par différentes audiences dans de nombreux contextes - sans perdre de vue l'auditoire principal auquel vous vous adressez.
Par exemple, vous pourriez choisir de produire un livre électronique plutôt qu'un livre imprimé, de concevoir une version de votre site Web adaptée aux téléphones portables ou de mettre votre œuvre d'art à disposition en plusieurs langues.
FAQs
- Les projets doivent être rédigés en anglais (ou fournir au moins une version anglaise).
- Les participants peuvent venir de partout dans le monde (cependant, pour recevoir le prix, ils doivent se trouver dans un endroit, où nous pouvons leur verser de l'argent).
- Il n'y a pas de limite d'âge pour les participants.
Les cinq projets gagnants seront désignés par notre jury sur la base des trois critères d'évaluation. Chacun d'entre eux recevra un prix de 10 000 USD.
Les équipes doivent partager l'argent gagné avec tous les membres de l'équipe.
Nous pourrons également décerner des "mentions honorables" à des travaux qui n'ont pas été primés, mais qui méritent d'être découverts. Ces projets ne recevront pas de prix numéraire, mais seront affichés sur notre site aux côtés des projets gagnants.
Contact
Pour de plus amples informations sur le concours, n'hésitez pas à nous contacter.