Альфа-Банк внедрил собственную систему защиты генеративного ИИ

Традиционные фильтры запрещенных слов часто не справляются с живым диалогом, где критически важен контекст. Чтобы избежать ложных срабатываний и отказов в ответах на безобидные вопросы, команда разделила правила проверки сообщений клиентов и ответов самого ИИ. Это позволило применять к ассистентам более строгие протоколы безопасности без потери полезности сервиса.

Процесс анализа проходит в два этапа: первичная фильтрация очевидных нарушений и последующая проверка с помощью специализированных моделей машинного обучения. Чтобы поддерживать актуальность защиты, разработчики автоматизировали 95% разметки данных для обучения системы. Использование других языковых моделей для подготовки обучающих примеров ускорило процесс в шесть раз, сведя участие человека только к сложным нестандартным случаям.