Международная группа исследователей разработала способ перехвата параметров моделей искусственного интеллекта с помощью обычной антенны. Об этом сообщает ряд научных источников.
Разработку под названием ModelSpy представили специалисты под руководством профессора Джун Хана из Корейского института передовых технологий совместно с учёными из Национального университета Сингапура и Чжэцзянского университета. Технология позволяет анализировать электромагнитные сигналы, возникающие во время работы ИИ.
Как отмечают исследователи, графические процессоры при выполнении вычислений излучают слабые электромагнитные волны. Улавливая и анализируя эти сигналы, система способна восстановить структуру нейросети, включая конфигурацию слоёв и параметры модели.
В ходе экспериментов учёным удалось определить характеристики ИИ на расстоянии до шести метров, в том числе через стены. Это может представлять потенциальную угрозу для безопасности технологий.
Авторы разработки подчеркнули, что также предложили меры защиты. Среди них — создание электромагнитных помех и методы обфускации, позволяющие скрыть внутреннюю структуру моделей.
Использование искусственного интеллекта в повседневной работе может повышать креативность и вовлечённость сотрудников. К такому выводу пришли исследователи из Университета Суонси (Великобритания).
