Towards Monosemanticity: Decomposing Language Models With Dictionary Learning

Contesto

Anthropic applica un autoencoder sparso alle attivazioni di un Transformer a singolo strato per estrarre caratteristiche interpretabili molto più numerose dei singoli neuroni; ciascuna caratteristica si attiva su pattern di testo riconoscibili.