Constitutional AI: Harmlessness from AI Feedback

Contesto

Anthropic descrive un metodo in cui un modello critica e rivede le proprie risposte in base a un insieme di principi scritti, e un modello di preferenza addestrato su queste valutazioni guida l'addestramento.