Videolar
Kısa bir liste, vaktinize değer.
3:31:00Deep Dive
Deep Dive into LLMs like ChatGPT
Karpathy'nin 3,5 saatlik anlatımı: eğitim hattının tamamı, ön eğitim, tokenizasyon, fine-tuning, RLHF ve bu modellerin gerçekte nasıl kullanılacağı.
Andrej Karpathy
59:48Foundations
[1hr Talk] Intro to Large Language Models
LLM'lere en yüksek sinyalli giriş, ne oldukları, nasıl eğitildikleri, nereye gittikleri ve çevrelerindeki güvenlik modeli.
Andrej Karpathy
1:56:20Engineering
Let's build GPT: from scratch, in code, spelled out.
PyTorch ile sıfırdan çalışan bir GPT kurun, attention, multi-head, residual'lar, layer norm, hepsi. Devamı için nanoGPT ile birlikte izleyin.
Andrej Karpathy
2:13:35Engineering
Let's build the GPT Tokenizer
Tuhaf LLM hatalarının yarısının kaynağı neden tokenizasyon ve uçtan uca bir BPE tokenizer'ı nasıl kurup bunları ayıklarsınız.
Andrej Karpathy