Bandeau
mcInform@ctions
Travail de fourmi, effet papillon...
Descriptif du site
YouTube/Science étonnante
Ce qui se cache derrière le fonctionnement de ChatGPT
#IA #ChatGPT
Article mis en ligne le 24 avril 2023
dernière modification le 23 avril 2023

J’ai longuement hésité pour cette vidéo a faire un long passage plus technique sur les transformers, et puis je me suis dit que ça ferait trop long et un peu trop grand écart entre les principes généraux et les détails techniques.

Mais si le sujet vous intéresse, je vous recommande les vidéos d’Andrej Karpathy, un des chercheurs les plus en pointe du domaine, et qui a créé une version « pédagogique » qu’il a appelé NanoGPT. En suivant son code on comprend bien ce qu’il se passe.