Toy Models of Superposition

Contesto

Anthropic studia con modelli ridotti perché le reti rappresentino più caratteristiche di quante dimensioni abbiano a disposizione, sovrapponendole in direzioni non ortogonali; descrive il fenomeno come un cambiamento di fase e ne analizza la geometria.