Microsoft внедрила новые меры предосторожности на базе ИИ. Об этом пишет «Телеспутник».
Это сделано для клиентов, которые не должны проводить в отдельности тестирование своих продуктов. Инструменты обнаруживают галлюцинации ИИ, блокируя рискованные запросы пользователей.
Базовый набор функций новых средств безопасности на базе ИИ в Microsoft включает блокировку потенциально рискованных подсказок, обнаружение галлюцинаций и защищенных материалов. В будущем, как отметили в компании, будут добавлены приборы для безопасных ответов и отслеживания подозрительных пользователей.
Также общеизвестно, что клиенты облачной платформы Microsoft Azure смогут отключать фильтры, предлагаемые Microsoft, чтобы оценить безопасность запросов к ИИ. Кроме того, система предложит отчеты о пользователях, пытающихся провоцировать ИИ на недопустимые ответы.
Компания рассчитывает избежать предубеждений на счет опасности генеративного ИИ, явившихся из-за инцидентов с дипфейками, попыток искажения истории и создания недопустимых по различным уразумениям материалов.
Фото: Freepik.com