«Лаборатория Касперского» разработала документ для поддержки организациям в избежании киберрисков, связанных с использованием технологий ИИ. В первую очередь руководство создано для разработчиков, системных администраторов, DevOps-команд, говорят в компании.
Руководство создано совместно с ведущими научными знатоками. Оно охватывает ключевые аспекты разработки, внедрения и использования систем ИИ, а также предлагает лучшие практики что касается безопасности. Это особенно важно для организаций, использующих сторонние модели ИИ и облачные системы: уязвимости внутри них могут привести к масштабным утечкам данных и нанести ущерб репутации. Рекомендации по безопасной разработке также помогут развёртывать ИИ-системы в соответствии с ESG-принципами и международными стандартами.
В частности, «Лаборатория Касперского» предлагает следующие принципы для увеличения безопасности систем на основании ИИ:
Информирование о киберугрозах и обучение. Руководство организаций быть может осведомлено об угрозах безопасности, связанных с применением ИИ, и регулярно проводить специализированное обучение для сотрудников. Люди, работающие в компании, обязаны знать, какие методы используют преступники для атак на системы ИИ, а обучающие программы необходимо беспрерывно обновлять, чтобы информация об угрозах была актуальной.
Моделирование угроз и оценка рисков. Моделирование угроз позволит заблаговременно выявлять и снижать риски: за счет этого прибора можно выискать и удалять уязвимости в самом начале ИИ-разработки. «Лаборатория Касперского» предлагает использовать уже принятые методологии оценки рисков (например, STRIDE, OWASP), чтобы обнаруживать угрозы в области ИИ, например нецелевое использование моделей, применение нерелевантных данных для обучения модели, системные недостатки.
Безопасность облачной инфраструктуры. Системы ИИ неоднократно развёртывают в облачных средах, но даже это требует грозных защитных мер, такими как шифрование, сегментация сети и двухфакторная аутентификация. «Лаборатория Касперского» предлагает следовать принципу нулевого доверия (то есть по умолчанию принимать на веру никаким пользователям или устройствам), применять защищённые каналы связи и регулярно обновлять инфраструктуру, чтобы снижать риски взломов.
Защита цепочки поставок и данных. «Лаборатория Касперского» напоминает о рисках, связанных с наружными ИИ-компонентами и моделями, включая утечки данных и их продажу злодеями. Чтобы этого избежать, необходимо требовательно соблюдать политику конфиденциальности и правила безопасности для всех участников цепочки поставок.
Тестирования и проверки. Регулярные проверки моделей ИИ помогут убедиться в надёжности их работы. «Лаборатория Касперского» советует проводить мониторинг их производительности, а также собирать отчёты об уязвимостях. Это позволит вовремя обнаруживать проблемы, связанные с изменением используемых моделью данных, а также атаки преступников. Чтобы снизить риски, важно следить за актуальностью комплектов данных и проверять логику принятия решений.
Защита от угроз, специфичных для ИИ-моделей. ИИ-компоненты необходимо охранять от угроз, отличительных для ИИ-систем: промпт-инъекций и прочих вредоносных запросов, отравления учебных данных и так далее. Чтобы снизить риски, можно намеренно включать нерелевантные данные в ходе тренировки модели, чтобы обучить её опознавать их. Кроме того, рекомендуется использовать системы обнаружения аномалий, а также методы дистилляции знаний, которые помогают эффективнее выпускать из рук информацию и придают ей большую устойчивость к манипуляциям.
Регулярное обновление. Необходимо неоднократно обновлять ИИ-библиотеки и фреймворки, чтобы вовремя удалять появляющиеся уязвимости. Чтобы повысить устойчивость таких систем, стоит участвовать в программах Bug Bounty, которые предполагают выплату вознаграждения сторонним профессионалам за обнаружение уязвимостей, и регулярно обновлять облачные модели ИИ, учитывая их скорую эволюцию.
Соответствие международным стандартам. Следование международным нормам, использование передовых практик, а также проверка ИИ-систем на соответствие законодательству помогут компаниям соблюдать требования в области этики и конфиденциальности данных, а следовательно, укрепить доверие и повысить прозрачность бизнеса.
Фото: Unsplash