Présentation du cours

Le semestre d’automne 2026 propose le cours CS 2881R – AI Safety, dispensé par le professeur Boaz Barak, membre du corps professoral de Harvard et technicien chez OpenAI. Le programme s’articule autour de 13 conférences en présentiel, chaque jeudi de 15 h 45 à 18 h 30, à partir du 3 septembre, dans la salle 2112 du bâtiment 114 Western Avenue, Allston. L’objectif affiché est d’examiner les défis d’alignement et de sûreté de l’intelligence artificielle, tant sur le plan technique que sociétal.

Structure pédagogique et exigences

Les étudiants doivent d’abord soumettre le formulaire d’inscription d’automne 2026, puis rendre le devoir initial (HW0) avant le 5 août 2026, 23 h 59 ET. La remise de ce devoir constitue une condition nécessaire, mais ne garantit pas l’admission. Le cours exige une maturité mathématique incluant les preuves, la probabilité et la théorie de l’information, ainsi que les bases du machine learning équivalentes à Harvard CS 181 ou MIT 6.036. La maîtrise du Python et la capacité à entraîner un réseau de neurones de base sont également requises.

Le dispositif d’évaluation comprend la présentation d’une expérience en classe, la rédaction de notes de synthèse, un projet final et éventuellement des devoirs supplémentaires. Chaque séance combine exposé magistral, discussion et démonstration d’une expérience étudiante, par exemple « Is Chain of Thought an Interchangeable Scratchpad » ou « Can AI agents collaborate on ML research ». Les lectures obligatoires sont distribuées via Perusall, avec des échéances hebdomadaires fixées à midi chaque jeudi.

Utilisation de l’IA et conflit d’intérêts

Le règlement autorise et encourage l’usage d’IA générative et d’agents autonomes pour la recherche, l’étude et la réalisation des projets. Le cours prévoit d’allouer des crédits de calcul ou de rembourser les dépenses liées à l’utilisation de ces ressources. Un dispositif de politique d’appareils électroniques impose aux porteurs d’ordinateurs portables de s’asseoir à l’arrière afin de limiter les distractions.

Un conflit d’intérêts potentiel est explicitement mentionné : Boaz Barak travaille également chez OpenAI. Le programme inclut l’analyse de modèles provenant de plusieurs fournisseurs, et les étudiants sont invités à comparer ces solutions. Les participants peuvent signaler toute préoccupation à l’instructeur, aux assistants d’enseignement ou à l’administration de Harvard SEAS.

Perspectives et limites

Les enregistrements des cours seront réalisés automatiquement par une caméra fixe, mais la capture du tableau blanc ou des discussions informelles peut être partielle. Les intervenants extérieurs, dont Nicholas Carlini (Anthropic) et Sam Altman (OpenAI), ont la possibilité de refuser l’enregistrement de leurs interventions. Le format strictement présentiel, la dépendance à Perusall pour les lectures et la nécessité d’un accès à des ressources de calcul peuvent constituer des barrières pour certains candidats, surtout ceux qui ne disposent pas d’un environnement de travail compatible avec les exigences techniques.