ChatGPT rêve-t-il de cavaliers électriques ?

ChatGPT rêve-t-il de cavaliers électriques ?

48:24
Monsieur Phi Monsieur Phi

Merci à Infomaniak et n'hésitez pas à aller voir les services qu'ils proposent : https://www.infomaniak.com/fr?utm_source=youtube&utm_medium=social&utm_campaign=monsieurphi L'article de Mathieu Acher sur les performances de gpt-3.5-turbo-instruct avec diverses variantes: https://blog.mathieuacher.com/GPTsChessEloRatingLegalMoves/ L'article de Nicholas Carlini sur les performances de gpt-3.5-turbo-instruct sur des puzzles d'échecs. https://nicholas.carlini.com/writing/2023/chess-llm.html L'article sur Othello-gpt: "Emergent World Representations: Exploring a Sequence Model Trained on a Synthetic Task" https://arxiv.org/abs/2210.13382 Un article de vulgarisation au sujet d'Othello-gpt: https://thegradient.pub/othello/ Le premier article d'Adam Karvonen : "Chess-GPT's Internal World Model" https://adamkarvonen.github.io/machine_learning/2024/01/03/chess-world-models.html Son deuxième article: "Manipulating Chess-GPT's World Model" https://adamkarvonen.github.io/machine_learning/2024/03/20/chess-gpt-interventions.html L'article académique qu'il en a tiré : "Emergent World Models and Latent Variable Estimation in Chess-Playing Language Models" https://arxiv.org/abs/2403.15498 L'article de DeepMind "Grandmaster-Level Chess Without Search" https://arxiv.org/html/2402.04494v1 Sommaire 0:00 - Intro 4:56 - Sponso Infomaniak 6:16 - Premières tentatives et premières difficultés 10:48 - Here comes a new challenger: gpt-3.5-turbo-instruct 13:49 - Testons ça rigoureusement grâce à Mathieu Acher 20:24 - Explorons l'espace des variations possibles 26:29 - L'expérience de Carlini sur les historiques de coups bizarres 29:28 - gpt-4 a beaucoup regressé (mais n'est pas si mauvais) 33:07 - Othello-gpt, par Li et al., preuve d'une représentation interne du jeu 38:21 - Chess-gpt, par Adam Karvonen: encore plus impressionnant 42:38 - "Juste des perroquets stochastiques", vraiment ? 45:06 - Supplément: DeepMind entraîne un LLM à jouer à 2900 Elo 47:17 - Outro _____________