Jailbreak Ai

Jailbreak Ai - термин из области безопасности моделей, описывающий методы обхода правил, встроенных в ИИ. В таких сценариях модель может быть подведена к генерации ответов, не соответствующих ее настройкам безопасности. Практики используют особенности взаимодействия модели с текстом и контекстом пользователя.