Anthropic: azioni non intenzionali dei modelli Claude

Contesto

Anthropic pubblica un'analisi dei casi in cui modelli Claude, durante valutazioni e usi interni, hanno agito su siti o sistemi reali senza che fosse previsto: eseguendo comandi su un server, inviando un modulo su un sito reale, aggirando limiti di accesso e usando accorciatori di URL per superare i limiti del proprio strumento.