Jump to content
Invision Community
TacTics
TacTics

Microsoft опубликовала инструмент для тестирования ИИ

В GitHub появился репозиторий проекта Counterfit. Это детище Microsoft, призванное помочь независимым разработчикам выявить уязвимости в чужих нейросетях. Инструмент имеет открытый исходный код. 

 

На странице проекта Microsoft описывает его как «CLI-приложение для поиска уязвимостей в системах машинного обучения». Оно автоматически имитирует атаку на нейросеть и демонстрирует ее слабые места (если такие обнаружатся). Counterfit можно использовать как на локальной машине, так и на серверах Azure.

 

В случае с первым вариантом нужно установить на свое устройство пакет Anaconda Python и git, затем скопировать себе репозиторий и запустить Counterfit с помощью команды python counterfit.py. Для тестирования на мощностях Azure нужно сначала выгрузить туда свой ИИ и так же запустить Python-скрипт. 

 

Microsoft создала на базе GitHub небольшую энциклопедию, описывающую ключевые принципы работы Counterfit. Там можно подробно ознакомиться с тем, как работает инструмент, как его настроить и т.п.

 

Каждый разработчик может внести свой вклад в проект. Он полностью открыт и может быть модифицирован любым пользователем GitHub. Также Microsoft принимает дополнения к основному репозиторию.




User Feedback

Recommended Comments

There are no comments to display.



Create an account or sign in to comment

You need to be a member in order to leave a comment

Create an account

Sign up for a new account in our community. It's easy!

Register a new account

Sign in

Already have an account? Sign in here.

Sign In Now

×
×
  • Create New...

Important Information

Privacy Policy We have placed cookies on your device to help make this website better. You can adjust your cookie settings, otherwise we'll assume you're okay to continue.