GPT-1

Contesto

OpenAI presenta un Transformer decoder-only da 117 milioni di parametri: pre-addestramento generativo non supervisionato e poi fine-tuning per singolo compito.