Cos’è Prompt injection?

Un attacco che inserisce istruzioni in un input per deviare il comportamento di un modello o del sistema che lo usa.

Per esempio. Un documento recuperato contiene una frase che chiede all’assistente di ignorare il compito originale.