Профессор Джун Хан и его команда из Корейского института передовых технологий вместе с учёными из Сингапура и Китая создали ModelSpy — систему, способную дистанционно считывать структуру моделей искусственного интеллекта с помощью небольшой антенны, отмечает издание Нож.
Как это работает? Во время работы нейросети графический процессор испускает слабые электромагнитные сигналы. Анализируя эти импульсы, ModelSpy восстанавливает конфигурацию слоёв и параметры ИИ. По сути, это мощное подслушивающее устройство для нейросетей.
Но исследователи не ограничились демонстрацией уязвимости. Они предложили и контрмеры — например, генерацию электромагнитных помех и запутывание исходного кода, чтобы защитить ИИ от таких атак.
Кроме того, учёные из НовГУ совместно с китайскими специалистами разработали новую антенну для связи на очень низких частотах — пример того, как инновации в области антенн могут поддерживать и безопасность, и развитие технологий.
