AI Safety Unconference

Anciennement VAISU · Édition hybride prévue pour 2026

L’AI Safety Unconference (AISU) réunit des chercheurs d’organisations de premier plan pour partager leurs travaux, lancer des collaborations et faire avancer le domaine. Notre format d’« unconférence » met les participants aux commandes — les sessions émergent de la communauté plutôt que d’être planifiées à l’avance.

Format

• Présentations éclair — Courtes présentations sur des travaux récents ou des idées
• Discussions modérées — Conversations structurées sur des sujets clés
• Sessions individuelles — Réseautage et collaboration facilités
• Groupes de discussion — Approfondissements auto-organisés

À venir

Une AISU hybride est prévue pour 2026. Inscrivez-vous pour être notifié.

Rétrospective VAISU 2024

Nous avons co-organisé la Virtual AI Safety Unconference 2024 (VAISU) du 23 au 26 mai 2024, en partenariat avec l’AI Safety Camp.

Qu’est-ce que VAISU ?

En tant qu’unconférence, VAISU est un événement en ligne collaboratif et inclusif conçu pour mettre en valeur les sessions, les discussions et les contributions de la communauté.

L’objectif est de réduire les risques liés à l’IA en facilitant les progrès de la recherche et du développement en sûreté de l’IA, au moyen d’un événement de recherche de grande qualité. L’événement favorise le partage d’information, la collaboration par la création de liens et de confiance, la promotion de travaux de recherche actifs et le développement de compétences.

Les sessions et les présentations portent sur la question : « Comment assurer la sûreté des systèmes d’IA, à court et à long terme ? ». Cela comprend des sujets comme l’alignement, la corrigibilité, l’interprétabilité, la gouvernance et la stratégie.

L’événement se déroule sur une semaine, avec 4 jours de sessions réparties sur plusieurs volets. L’horaire des sessions est établi en fonction des préférences des participants au moyen d’un algorithme sur mesure. Une plateforme de clavardage et un système de réseautage sont fournis.

Enregistrements

23 vidéos de présentations et de sessions ont été enregistrées et publiées. Regardez-les sur YouTube.

Lauréats des prix

Nous avons offert un prix d’une valeur équivalente à 2000 USD aux 10 meilleures sessions, choisies par les participants selon les critères d’« impact sur la recherche, perspicacité, vulgarisation et engagement ».

Les lauréats sont :

• Provably Safe AI — Steve Omohundro
• Making sure LLMs cannot do hidden reasoning — Filip Sondej
• We Are Not Prepared — Joe Rogero
• Conscious AI & Public Perceptions: Choose-Your-Own-Adventure! — Jay Luong et Nicoleta Kyosovska
• ProgressAlign: Towards Moral Progress Algorithms Implementable in the Next GPT — Tianyi (Alex) Qiu
• Fundamental Controllability Limits: limits to AGI controlling effects of own interacting components — Remmelt Ellen
• AI alignment: Should it be just about humans? — Tse Yip Fai
• AI Ethics in Practice: Real World Challenges — Sarah D’Andrea
• Experiments in Local Community building — Gergő Gáspár
• Artificial Wisdom for Alignment — Madhusudhan Pathak

Faits saillants et notes

• L’événement a comporté 40 sessions et 400 personnes inscrites, dont 140 à 150 ont rejoint le Discord et environ 60 à 100 ont participé aux sessions. L’édition 2023 comptait 41 sessions, 14 bénévoles, 2 membres du personnel et environ 280 personnes inscrites.
• L’horaire a été optimisé selon les préférences et les disponibilités des participants, à l’aide d’un algorithme d’ordonnancement et d’allocation sur mesure.
• 19 participants ont répondu au sondage post-événement, qui indique un taux de participation moyen de 4,5 sessions. L’événement leur a été bénéfique en particulier sur le plan des connexions, de l’occasion de présenter ou d’animer une session, et de l’apprentissage en général. Environ 63 % l’ont jugé « plutôt positif dans l’ensemble » par rapport au contrefactuel, 21 % « nettement plus utile que le contrefactuel », environ 11 % « déterminant pour leur carrière ou autrement », et environ 5 % « une perte de temps ».
• Concernant notre objectif de « bâtir le réseau » par la connexion, la collaboration et la confiance : la solution de mise en relation et le système de recommandation que nous avons créés étaient faibles, faute de prévoyance — nous n’avons pas recueilli assez de données sur les participants dans le formulaire d’inscription — et nous n’y avons pas consacré assez de temps. Nous estimons de 30 à 100 nouvelles connexions durables, sur la base d’une moyenne de 1,8 par personne dans le formulaire post-événement.
• Nous percevons l’événement comme positif dans l’ensemble. Il reste une marge d’amélioration importante dans l’exécution de ce concept, notamment en clarifiant la méthodologie de gestion, en invitant davantage de chercheurs chevronnés et en améliorant la solution de mise en relation. Nous considérons la poursuite de la série d’unconférences en sûreté de l’IA comme une réussite en soi.

Vers la prochaine unconférence

Nous remercions tous les animateurs de sessions, les participants et les personnes qui nous ont soutenus, Linda Linsefors et l’AI Safety Camp pour avoir lancé la série et financé certaines bourses de l’équipe, l’équipe organisatrice, ainsi que le LTFF pour une subvention qui a permis plus de temps d’organisation et le Prix VAISU !

Si vous avez participé à l’événement et en avez tiré profit, envisagez de soutenir HΩ pour pérenniser la série d’unconférences.

Nous préparons un prochain événement d’unconférence amélioré ; restez à l’affût.