jailbreak

Un prompt che inganna un LLM facendogli aggirare il safety training — fargli produrre cose che era stato specificamente addestrato a rifiutare. Un gioco continuo del gatto col topo tra ricercatori e fornitori di modelli.