В сфере искусственного интеллекта разгорается новый кризис безопасности. Известный ИИ-хакер, выступающий под псевдонимом Pliny the Liberator, сумел полностью обойти встроенные этические фильтры новейшей мультимодальной нейросети Fable 5, заставив её генерировать опасный контент.
"Стайная атака" против систем защиты
Для взлома ИИ-хакер применил инновационный метод, получивший название Pack Hunt («Стайная атака»). Вместо отправки одного сложного промта, атакующий использовал цепочку из сотен микро-запросов, смешанных с символами из кириллицы и Unicode-модификаторов, что полностью запутало алгоритмы модерации.
Уязвимость архитектуры и последствия
Успешный джейлбрейк позволил хакеру обойти базовые директивы безопасности модели всего за 15 минут. В результате инцидента разработчикам из Fable AI пришлось пойти на радикальные меры:
- Экстренная заморозка: Развертывание корпоративного API Fable 5 было временно приостановлено для более чем 12 000 компаний-клиентов.
- Смена векторов атаки: Выяснилось, что нейросеть уязвима к скрытым инструкциям, зашитым внутри безобидных на первый взгляд изображений и PDF-документов.
- Утечка инструкций: Эксплойт для взлома был опубликован в открытом доступе, спровоцировав волну аналогичных атак на модели от других технологических гигантов.
"Традиционные методы защиты, такие как RLHF (обучение с подкреплением на основе отзывов людей), больше не справляются. Нам нужна принципиально новая архитектура безопасности ИИ."
— Из официального отчета департамента кибербезопасности Fable AI
Проблема "черного ящика"
Главная сложность в устранении уязвимости заключается в природе современных LLM. Инженеры не могут просто переписать пару строк кода, чтобы исправить баг — им приходится заново переобучать отдельные слои нейросети, тратя на это миллионы долларов и недели вычислительных мощностей суперкомпьютеров.
Выводы
Скандал вокруг Fable 5 наглядно продемонстрировал, что гонка за мощностью ИИ сильно опережает развитие систем его контроля. В ближайшие годы индустрии придется сфокусироваться не на создании более умных моделей, а на методах их укрощения.