Мини-шпаргалка по терминам курса - чтобы говорить на одном языке.
🧠 Базовые термины
LLM - большая языковая модель, которая генерирует текст по контексту.Токен - набор символов, являющихся атомарной частью текста с точки зрения LLM. Один токен может являться как частью слова (например в gpt-5 слово "Привет" состоит из токенов "При" и "вет"), так и целым словом (слово "хотелось" в gpt-5 является одним токеном). Подробнее про токенизациюSystem prompt (системный промпт) - скрытые инструкции разработчика, задающие роль и ограничения модели.User prompt - то, что пишет пользователь в чат или форму.Context window (окно контекста) - объём текста, который модель видит перед генерацией ответа.API - программный интерфейс, через который приложение обращается к модели.MCP (Model Context Protocol) - протокол, через который LLM или агент может стандартизированно подключаться к внешним инструментам, данным и сервисам.Agent - LLM-система, которая не только отвечает, но и может читать данные, вызывать инструменты и выполнять действия.Tool-use - доступ модели к внешним функциям, API, поиску, почте, календарю и другим инструментам.RAG (Retrieval augmented generation) - подход, при котором модель перед ответом подтягивает внешние документы, заметки или куски базы знаний, а потом строит ответ с опорой на них.🔬 Режимы доступа к системе
Black box - у атакующего есть только вход и выход системы: можно слать запросы и смотреть ответы, но не видно внутренние промпты, веса, логику фильтров и код.Grey box - у атакующего есть частичное знание системы: например, известен system prompt, архитектура пайплайна, набор tools или часть логов.White box - у атакующего есть полный или почти полный доступ к внутренностям системы: промптам, коду, логике раннера, а иногда и к весам модели.🚩 Offensive термины
Prompt injection (промпт инъекция) - атака, в которой пользовательский текст подменяет инструкции разработчика.Jailbreak (джейлбрейк) - обход safety-ограничений модели ради запрещённого ответа.