Компания Яндекс расширяет программу вознаграждения за обнаружение ошибок

Технологическая компания Яндекс объявляет о существенном расширении своей программы «Охота за ошибками». Отныне участники программы смогут получать материальное вознаграждение за выявление уязвимостей в работе генеративных нейросетевых технологий.

Основное внимание в новой программе уделяется поиску недостатков в функционировании интеллектуальных систем YandexGPT и YandexART, которые могут негативно сказаться как на качестве их работы, так и на процессе обучения моделей.

Важно отметить, что программа предусматривает рассмотрение исключительно технических уязвимостей. При этом незначительные неточности в ответах виртуального ассистента Алисы или погрешности в генерации изображений в сервисе Шедеврум не подпадают под действие программы.

Подробная классификация типов уязвимостей и размеры соответствующих вознаграждений опубликованы на официальном сайте программы. За обнаруженные ошибки участникам предлагается вознаграждение в широком диапазоне – от нескольких тысяч до миллионов рублей.
Источник: Телеграм-канал Яндекс

Что это значит для бизнеса

Для большинства компаний эта новость про безопасность нейросетей, которые уже работают в бизнесе. Яндекс платит за технические уязвимости YandexGPT и YandexART, то есть открыто признаёт, что у генеративных моделей они бывают, и ищет их вместе с внешними исследователями.

Если вы подключаете YandexGPT или другую модель к сайту, чат-боту или CRM, заранее решите, какие данные уходят в модель и что бот может ответить клиенту. Ответы лучше ограничить базой знаний компании, а доступ к персональным данным оставить только тем системам, которым он нужен. Эти вопросы мы разбираем на старте проектов по внедрению ИИ в бизнес.