Двухуровневый метод нейтрализации обфусцированных атак Prompt Injection на основе анализа информационной энтропии текста

Цель исследования – оценить возможность применения символьной энтропии Шеннона для предварительной фильтрации обфусцированных атак внедрения инструкций (Prompt Injection) в системах на основе больших языковых моделей. Рассматривается двухуровневая архитектура, объединяющая статистический анализ текста и семантический LLM-фильтр. Для обфусцированных запросов приведено уменьшение показателя пропуска атак с 47,8 до 4,5 % при увеличении доли ложных срабатываний с 3,2 до 5,8 %. Эти агрегированные значения сохранены как предварительные авторские результаты, поскольку индивидуальные исходы и журналы измерений не представлены. Уточнены математическое определение энтропии, правила маршрутизации и различие между пропуском фильтра и успешной атакой на целевую модель. Порог 4,8 бит/символ рассматривается как рабочее, но не статистически оптимизированное значение. Заявленное сокращение задержки на 88 % требует проверки по первичным измерениям. Метод представляет интерес для API-шлюзов, однако его воспроизводимая оценка требует идентификации корпуса, моделей и вычислительного окружения, независимой калибровки порога и проверки устойчивости к адаптивным атакам.

Hali tarjima qilinmagan