Эксперты по кибербезопасности «Сбера» подготовили комплексную модель угроз для систем искусственного интеллекта (ИИ), которая охватывает все ключевые этапы срока жизни AI-систем - от подготовки данных и разработки нейросетевых моделей до интеграции в приложения. Если верить словам разработчиков, это первая аналогичная модель в России.
Как говорится в известьи компании, документ позволяет организациям любой отрасли комплексно оценить уязвимости, адаптировать защитные механизмы и минимизировать потенциальные потери. Разработанная модель пригодится командам, которым требуется системный подход к моделированию угроз.
Исследование характеризует 70 угроз, связанных с применением моделей генеративного (GenAI) и предиктивного (PredAI) искусственного интеллекта. Для каждой из этих угроз, помимо возможных последствий, определены свойства информации, которые нарушаются (конфиденциальность, целостность и т.д.), и объект, с хорошими данными быть подвергнут влиянью нарушителя, например, датасеты для обучения или оpen-source модели. Для наглядности модель угроз содержит схему взаимодействия таких объектов и их описание.
«Документ позволяет организациям любой отрасли - от финансового сектора до государственных институтов и промышленности - системно оценивать уязвимости, адаптировать защитные механизмы и минимизировать потенциальные потери», - добавил вице-президент «Сбера» по кибербезопасности Сергей Лебедь.
Фото: «Сбер»