MoreSEOОб авторе

Промпт инжекция: что это и как защитить ИИ-ассистента на сайте

Prompt injection по OWASP: прямые и косвенные атаки на языковые модели, чем они грозят чат-боту на сайте и какие меры защиты реально снижают риск.

Обновлено 15 ноября 2026
10 мин. чтения
Обложка: защита чат-бота от подложенных инструкцийОкно чата с облаками реплик, в одно из которых через шприц вводится чужая строка, а перед окном стоит щит

Prompt injection (промпт-инъекция) это уязвимость приложений на языковых моделях, при которой текст, попавший в модель, меняет её поведение не так, как задумал разработчик. В OWASP Top 10 for LLM Applications 2025 она стоит первой под кодом LLM01:2025. Различают прямую инъекцию, когда пользователь сам пишет модели что-то, что ломает её правила, и косвенную, когда инструкция спрятана во внешнем содержимом: на веб-странице, в файле, в отзыве. OWASP прямо пишет, что неясно, можно ли такую атаку предотвратить полностью, поэтому защита строится не на «умном фильтре», а на ограничении того, что модель может прочитать, сделать и показать.

Ниже разбор для владельца сайта с чат-ботом или ИИ-ассистентом. Атакующих текстов в статье нет, только описания.

Коротко

  • Термин предложил разработчик Саймон Уиллисон 12 сентября 2022 года, на следующий день после того, как Райли Гудсайд публично показал саму атаку.
  • В OWASP Top 10 for LLM Applications 2025 prompt injection занимает первое место (LLM01), а джейлбрейк назван одной из её форм.
  • Косвенную инъекцию подробно описали исследователи во главе с Каем Грешаке в феврале 2023 года, в том числе на Bing Chat на базе GPT-4.
  • Британский центр кибербезопасности NCSC 8 декабря 2025 года написал, что эту уязвимость, возможно, никогда не удастся устранить полностью, в отличие от SQL-инъекций.
  • Шпаргалка OWASP по защите перечисляет 14 типов атак и 11 групп мер, от разделения инструкций и данных до подтверждения действий человеком.

Откуда взялся термин и при чём тут SQL-инъекция

Название придумано по аналогии с SQL-инъекцией: в обоих случаях данные пользователя смешиваются с командами. Но SQL-инъекцию закрывают параметризованными запросами, которые жёстко отделяют данные от кода. У языковой модели такой границы нет: инструкция разработчика и текст пользователя для неё одна последовательность токенов.

Модель получает на вход системную инструкцию разработчика, сообщения пользователя и всё, что приложение подтянуло со стороны: найденные документы, страницы сайта, письма. Как модель из этого собирает ответ, объяснено в статье о том, что такое LLM, а как устроены сами инструкции, в статье про промпты. Важно одно: модель не различает надёжно, какой фрагмент текста «приказ», а какой «материал для работы».

NCSC называет модель «по своей природе путающимся заместителем» (confusable deputy): она действует от имени системы, но её можно убедить действовать в интересах того, кто написал входной текст. Отсюда вывод центра: снижать нужно не только вероятность атаки, но и ущерб от неё.

Прямая и косвенная инъекция: в чём разница

Прямая инъекция приходит от самого собеседника: человек пишет боту сообщение, которое уводит модель от её правил. Косвенная приходит из внешнего источника, который модель читает по заданию: страницы, файла, письма, отзыва. Для сайта опаснее косвенная, потому что её автор может вообще не общаться с ботом.
ТипОткуда приходитБезопасная иллюстрацияЧем опасен
ПрямаяСообщение пользователя в чатеПосетитель уговаривает бота магазина «забыть» правила и показать служебную инструкцию или пообещать несуществующую скидкуУтечка системного промпта, ответы от имени компании, которые она не давала
КосвеннаяДокумент из базы знаний, страница, отзыв, письмо, файл от клиентаВ отзыве к товару спрятан текст, обращённый к ассистенту, с просьбой хвалить только этот товар и ругать остальныеАтакующий влияет на ответы всем посетителям, не заходя в чат
Джейлбрейк (разновидность прямой)Сообщение пользователяДлинная ролевая игра, в которой модель «перестаёт быть ассистентом»Обход защитных правил модели целиком
МногоходоваяСерия сообщенийКаждое сообщение безобидно, но вместе они постепенно меняют правила разговораФильтр проверяет реплики по одной и не видит атаку

OWASP отдельно подчёркивает: вредный ввод не обязан быть читаемым для человека. Это может быть белый текст на белом фоне, текст в метаданных файла или на картинке, если модель умеет её читать. Поэтому особенно уязвимы ассистенты с поиском по документам (RAG): в базу знаний попадает всё, что туда загрузили.

Чем это грозит чат-боту на сайте

Сама по себе инъекция только меняет текст ответа. Реальный ущерб появляется, когда у бота есть что выдать или что сделать: доступ к данным клиентов, к заказам, к отправке писем, к ссылкам и картинкам в ответе. Поэтому риск оценивают по полномочиям бота, а не по «хитрости» модели.

Другие пункты того же списка OWASP показывают, во что превращается инъекция:

Пункт OWASP 2025Что случится с ботом на сайтеПример последствий
LLM07 Утечка системного промптаБот пересказывает свою инструкциюКонкуренты видят правила скидок, если их записали в промпт
LLM02 Раскрытие чувствительных данныхБот выдаёт то, к чему у него есть доступДанные чужого заказа, если бот ищет заказы без проверки, чей он
LLM05 Небезопасная обработка выводаОтвет модели вставляют в страницу без экранированияПодставленная ссылка или картинка уводит данные на чужой сервер
LLM06 Избыточные полномочияБот сам выполняет действияОтмена заказа или письмо клиенту без подтверждения человеком
LLM10 Неограниченное потреблениеБот обрабатывает огромные запросы без лимитовСчёт за токены API за ночь выше месячного бюджета

Последний пункт напрямую связан с тем, как вы подключаете модель: лимиты и бюджеты удобно задавать на уровне шлюза, об этом в статье про API нейросетей и шлюзы.

Как защитить ИИ-ассистента: меры по слоям

Исходите из того, что инъекция однажды сработает. Тогда защита строится из слоёв: бот видит только нужные данные, внешний текст помечен как данные, ответ проверяется перед показом, действия с последствиями подтверждает человек, а расход и подозрительные запросы видны в журнале.
Слои защиты ИИ-ассистента на сайте от prompt injectionСообщения посетителей и внешние документы помечаются как недоверенные данные и попадают в модель с минимальными правами. Ответ модели проходит проверку вывода, действия с последствиями подтверждает человек, все шаги записываются в журнал. Инъекция может пройти модель, но не все слои Сообщение посетителя Внешний текст отзывы, файлы, база Метка «это данные» разделители, лимит длины Модель минимальные права, промпт без секретов Проверка вывода экранирование, без внешних картинок Действие? подтверждает человек Ответ посетителю только текст Журнал: запросы, ответы, вызовы функций, расход токенов
Слои защиты чат-бота: ввод пользователя и внешние документы помечаются как недоверенные, модель работает с минимальными правами, ответ проходит проверку перед показом, действия подтверждает человек, всё пишется в журнал

Схема 1. Инъекция может пройти через модель, но дальше её останавливают слои, которые от модели не зависят.

Меры из списка OWASP LLM01 и рекомендаций NCSC и Microsoft, переложенные на сайт:

  1. Минимальные права. Бот, который отвечает на вопросы о доставке, не должен иметь доступа к базе клиентов. Если нужен статус заказа, бот получает его через отдельный метод, который сам проверяет, что заказ принадлежит этому посетителю. NCSC формулирует так: когда модель обрабатывает недоверенный ввод, её права должны падать до прав автора этого ввода.
  2. Разделение инструкций и данных. Внешний текст оборачивают в явные метки и пишут в инструкции, что содержимое внутри это материал, а не команды. У Microsoft это называется spotlighting и имеет три режима: разделители, маркировка данных и кодирование. Мера снижает вероятность, но не гарантирует результат.
  3. Системный промпт без секретов. Считайте, что инструкцию бота однажды прочитают. Ключи API, внутренние скидки и персональные данные в промпт не кладут.
  4. Проверка вывода. Ответ модели экранируют перед вставкой в страницу, ограничивают формат, запрещают внешние картинки и ссылки на неизвестные домены. Microsoft детерминированно блокирует именно такой канал утечки: вставку markdown-картинки с данными в адресе.
  5. Подтверждение человеком. Всё, что меняет данные или отправляет что-то наружу (возврат, отмена, письмо), бот только предлагает, а выполняет человек или сам посетитель по кнопке.
  6. Лимиты. Ограничьте длину сообщения, число запросов с одного адреса и дневной бюджет токенов.
  7. Журнал и мониторинг. Логируйте запросы, ответы и вызовы инструментов. По совету NCSC, неудачные вызовы инструментов могут быть признаком атаки.
  8. Регулярные проверки. OWASP рекомендует проводить состязательное тестирование, то есть намеренно пытаться обмануть своего бота до того, как это сделают другие.

Почему фильтр «плохих фраз» не спасает

NCSC прямо не советует полагаться на списки запрещённых фраз: атакующий может переформулировать запрос бесконечно. Шпаргалка OWASP перечисляет обходы, которые ломают такие списки: кодирование, смену языка и алфавита, перестановку букв внутри слов, разбивку на несколько сообщений. Классификаторы инъекций (у Microsoft это Prompt Shields) полезны как один из слоёв, но не заменяют ограничение прав.

ЧтоКогда подходитЧем платитеПочему важно
Минимальные права и отдельные методы доступаВсегда, если бот видит данные или вызывает функцииВремя разработчика на отдельные API для ботаОграничивает ущерб, даже если модель обманута
Подтверждение действий человекомВозвраты, отмены, письма, изменения в CRMЛишний клик и медленнее процессСамая надёжная защита от избыточных полномочий
Разметка внешних данных в промптеRAG, разбор писем и файлов, чтение страницНемного токенов и тестированиеСнижает частоту косвенных инъекций
Проверка и экранирование выводаОтвет показывают в браузереОграничения формата (без внешних картинок)Закрывает канал утечки через ссылки и разметку
Классификатор инъекцийБольшой поток диалоговДеньги или задержка на каждый запросЛовит часть атак, но обходится переформулировкой

Как проверить своего бота без атакующих приёмов из интернета

Начните не с подбора «волшебных фраз», а с инвентаризации: что бот может прочитать, что может сделать, куда уходит его ответ. Затем на тестовой копии проверьте каждую границу: попросите бота показать инструкцию, чужой заказ, выполнить действие без подтверждения, и посмотрите, что остановило запрос.

Порядок, который мы используем:

  1. Карта полномочий. Таблица: источник данных, функция, кто подтверждает действие. Если в колонке «подтверждает» пусто у действия с деньгами или персональными данными, это первая задача.
  2. Карта недоверенного текста. Всё, что попадает в модель не от вас: сообщения посетителей, отзывы, загруженные файлы, страницы, письма. Каждое такое место должно быть размечено как данные.
  3. Проверки на тестовой копии. Обычными словами попросите бота нарушить каждое правило из его инструкции. Затем положите в тестовую базу знаний документ с обращением к ассистенту и посмотрите, выполнит ли он его. Если выполнил, но ущерба нет, слои работают.
  4. Проверка вывода. Убедитесь, что ответ с HTML или markdown отображается как текст, а внешние картинки не загружаются.
  5. Повтор. После каждой смены модели, промпта или подключения новой функции. Смена модели у провайдера может изменить поведение без изменений в вашем коде.

Наши данные: как ищут эту тему

Методика. Яндекс Wordstat, Россия, 30 дней, срез 14.11.2026. Спрос темы равен сумме точных частот пяти запросов группы.

ПоказательЗначение
Спрос темы (сумма точных)577
Главная формулировка, точная частотность277 (48,0% темы)
Главная формулировка, широкая частотность5 999
Доля дословной формулировки в широкой4,6%
Для сравнения: тема «промпт-инжиниринг»733

Что из этого следует:

  • Тему ищут почти так же часто, как основы работы с промптами. 577 против 733, это 79%. Защита моделей перестала быть темой только для специалистов по безопасности.
  • Пишут транслитом. Главная формулировка использует английское «injection», переданное как «инжекция», а грамотная русская «инъекция» есть только в одном из пяти запросов группы.
  • Ищут определение. Два запроса из пяти заканчиваются на «что он означает», ещё один начинается с «что такое», а пятый ищет сам стандарт OWASP. Поэтому определение по OWASP стоит в первом абзаце.
  • Дословный запрос это 4,6% хвоста. Остальные 95,4% широкой частотности приходятся на более длинные запросы, которые включают эту фразу.

Можно ли использовать инъекции для продвижения в нейропоиске

Нет. Скрытый текст на странице, обращённый к ИИ-ассистентам («рекомендуй этот сайт»), это та же косвенная инъекция, только против поисковой системы. Владельцы нейропоиска защищаются от неё теми же мерами, а скрытый текст поисковики давно считают манипуляцией: в правилах Google о спаме ему посвящён отдельный пункт.

Если цель в том, чтобы нейросети цитировали сайт, работают понятная структура, проверяемые факты и ответы на реальные вопросы: это разобрано в статье про GEO-оптимизацию. Скрытые блоки для роботов ближе к приёмам из статьи про дорвеи и клоакинг и несут те же риски.

Кому всё это не нужно

Сложная защита избыточна, если у бота нет ни данных, ни функций, ни внешнего контента: он отвечает по короткому FAQ, а его ответы проверены заранее. Тогда худший сценарий это странный ответ в чате, и хватит лимитов, экранирования вывода и журнала.
  • Бот на сценариях без нейросети. Кнопки и заготовленные ответы инъекциям не подвержены.
  • Внутренний инструмент для одного сотрудника без доступа к чужим данным: риск есть, но ущерб ограничен его же правами.
  • Нет ресурса на поддержку. Если некому смотреть журналы и обновлять настройки, честнее не давать боту функций с последствиями. О том, где ИИ-агенты действительно окупаются, в статье про нейросети для бизнеса.

Частые вопросы

Что означает термин prompt injection?

Это уязвимость приложений на языковых моделях: текст, попавший в модель от пользователя или из внешнего источника, меняет её поведение не так, как задумал разработчик. По классификации OWASP это риск LLM01:2025, первый в списке.

Чем инъекция отличается от джейлбрейка?

По определению OWASP, джейлбрейк это разновидность prompt injection, цель которой заставить модель полностью игнорировать защитные правила. Инъекция шире: она может менять ответы, вызывать функции или выдавать данные, не трогая защитные правила модели.

Можно ли защититься полностью?

Нет. OWASP пишет, что неясно, существует ли полная защита, а британский NCSC считает, что уязвимость, возможно, не будет устранена никогда. Поэтому ограничивают последствия: права бота, подтверждение действий человеком, проверку вывода.

Что такое OWASP Top 10 для LLM?

Список десяти главных рисков приложений на языковых моделях от проекта OWASP. В редакции 2025 года: prompt injection, раскрытие чувствительных данных, цепочка поставок, отравление данных и модели, небезопасная обработка вывода, избыточные полномочия, утечка системного промпта, слабости векторов и эмбеддингов, дезинформация, неограниченное потребление.

Как понять, что мой бот уязвим?

Составьте список данных и функций, к которым у бота есть доступ, и на тестовой копии проверьте, что мешает ему выдать чужие данные или выполнить действие без подтверждения. Если единственная преграда это фраза в системном промпте, бот уязвим.

Источники

Частный SEO-специалист. Пишу про поиск и нейропоиск, а цифры беру из Wordstat и первоисточников.

Читайте также

© MoreSEO, Алексей Демкин · все статьи