MITRE ATT&CK в декорациях детектива: новый формат обучения безопасности

• Откуда взялась идея
• Зачем игра, если есть курс
• Какой получилась игра
• На чём стоят сценарии
• Как это сделано с ИИ
• Для технарей: как всё устроено
• Как игра попала в Авито
• Грабли
• AI First: что это значит для тех, кто не пишет код
• Что дальше
• Итог

^{День 1: первый коммит, серые клетки и два человечка}

• Ошибаться безопасно. Неверную версию можно исправить без всяких штрафов. Если наказывать за ошибку, человек начнет просто угадывать правильный ответ, а не думать.
• Атака — это цепочка. Редко какая атака укладывается в одно письмо. Чаще всего это несколько с виду безобидных мелочей, ведущих к серьезным потерям. Мне хотелось, чтобы в игре такая цепочка тянулась через всё задание.
• Учить действию, а не теме. Закончив игру, сотрудник Авито должен не «знать о фишинге», а знать, что ему нужно сделать конкретное действие — «сообщить по сформированному алгоритму».

^{Стартовый экран. Спок — медоед, маскот нашей команды ИБ}

^{Башня Lumi: этаж — отдельная зона и свои риски}

^{Дело №001: лобби, Спок идёт к конверту, с которого всё началось}

^{Первое задание: осмотреть конверт и отметить признаки ненадёжного источника}

• фишинг — 8 заданий,
• ИИ — 6 заданий,
• «технарское» — 7 заданий.

^{Полигон: отделы компании и задания трёх уровней}

^{Кухня: полка безопасных практик}

^{Головоломка «Три чашки» — без оценки, просто передохнуть}

• Ранг даётся за процесс, а не за угадывание. Открыл подозрительную ссылку, ответил атакующему или взял готовое решение — ранг ниже. Проверил отправителя, перезвонил по нужному номеру — выше. Ранги называются «Чистая работа», «Холодная голова» и «С оговорками».
• Подсказки в три ступени. Первая наводит на мысль, вторая сужает фокус. Готовое решение — только по явному запросу.
• Не учим «отклонять всё». В игре есть законные просьбы, которые нужно выполнить. Иначе человек выйдет с привычкой отказывать всем и во всём подряд, а это тоже проблема.

^{Значки дежурного за пройденные задания Полигона}

^{Дело 004: слушаешь запись звонка и отмечаешь признаки подделки голоса}

^{Дело 005: журнал входов показывает, как атакующий дожал MFA}

^{Дело 003: письмо со сменой реквизитов — какой способ проверки выбрать}

^{Полигон: фото доски выложили в открытый канал — что на нём видно чужому}

• Сценарист и геймдизайнер. Сюжет и арки, герои, их характеры и предыстории, улики, ветки, тексты, правила рангов. Это агентам не отдать — они не знают, как на самом деле выглядят атаки в компании и на что могут повестись люди.
• Продакт. Что делаем, что выкидываем, что считаем готовым.
• Методолог. Какую привычку тренирует какое задание и как понять, что она и правда натренирована.
• Приёмка. Каждую фичу я проходил руками. Агент говорит «готово» часто раньше, чем фичу действительно можно принять.

• Фоны локаций — изометрию офиса, — сгенерировал в ChatGPT.
• Персонажей сгенерировал в 3D через Hyper3D Robin. Скелет, анимации ходьбы и стойки — сделал в Blender, а спрайты с восьми ракурсов агент отрендерил скриптом с камеры сцены.
• Ролики — прологи к делам и перебивки между сценами — сгенерировал Grok через API, а заставочный ролик сделан в Dreamina.
• Озвучка — музыку сделал в Suno, а голоса персонажей в ElevenLabs.

• Компания в игре вымышленная, персонажи — тоже. Никаких совпадений с реальными людьми или реальных данных.
• В нейросети не уходило ничего, кроме сценариев и кода игры.
• Инструменты для ИИ-агентов проверяли так же, как требуют наши правила по безопасной работе с GenAI.

• Дерево полей вместо форм. Форма, написанная под сегодняшнее дело, начала бы врать на следующем, так как у каждого жанра свой набор полей. Дерево показывает ровно то, что есть в файле, а для тех, кто умеет, рядом есть переключатель в сырой JSON.
• Предпросмотр на настоящем движке. Кнопка собирает черновой релиз, и игра открывается в окне редактора на этом черновике. Если игроки в этот момент играют, они видят прежнюю версию.
• Проверки связности. Девять правил плюс ссылки на медиа. Если что-то оборвалось, публикация не пройдёт.
• Медиатека. Картинку загружаешь в бакет, а в релиз она попадает при публикации.
• Публикация и откат — кнопками, с записью кто и когда что опубликовал.

1. Начинайте с задачи, а не с технологии. Чего вы хотите добиться? «Сделать игру про фишинг» — значит просто сделать игру. «Человек должен сообщить по конкретному адресу в ИБ о подозрении на фишинг?» — уже задача. Под неё придумываем ситуацию, а под ситуацию — механику.
2. Делайте скучную архитектуру. Статистика, данные в JSON, тесты. Агенты хорошо работают только в простых системах. На хитрых могут посыпаться.
3. Дробите и проверяйте. Маленькие задачи с критерием приёмки, второй агент для ревью, ручной прогон каждой фичи.
4. Сделайте инструменты для людей. Редактор, в котором будут вносить правки без репозитория, окупится куда быстрее, чем кажется.
5. Найдите союзника. Прототип вы соберёте сами, а в прод его должен провести разработчик, который знает инфраструктуру.
6. Соблюдайте правила работы с ИИ. Не скармливайте агентам реальные данные и используйте только проверенные инструменты.

• Привычку тренирует ситуация, а не заученное правило. Игра даёт ситуацию, в которой безопасно совершить ошибку.
• ИИ не заменит экспертизу реального человека, но масштабирует её. Без понимания атак и человеческого мышления нейросеть сделала бы просто красивую и совершенно бесполезную игру.
• Проверка — ваша работа. Агенты сэкономят время на коде, но не на приёмке.