Universal and Transferable Adversarial Attacks on Aligned Language Models

Contesto

Zou e colleghi generano automaticamente suffissi di prompt che inducono modelli linguistici allineati a produrre contenuti dannosi; i suffissi trovati su modelli open source si trasferiscono anche a modelli commerciali.