Ученые из Северной столицы нашли способ автоматизировать процесс устранения искажений транспортного машинного зрения, которые могут возникать из-за внешнего вмешательства. Механика основана на широкой базе данных, через которую нейросеть анализирует изображение и находит дефекты.
Фото: Bzzz.News/Валерия Навроцкая
Разработчики из ЛЭТИ создали алгоритм для поиска уязвимостей искусственного интеллекта и машинного зрения, которые управляют беспилотным транспортом. Как сообщил ТАСС, инструменты собраны в общую базу данных и предназначены для поиска методов и конфигураций, которые позволяют находить слабые места в разных моделях вместо того, чтобы подбирать их вручную.
Системы автопилота используют машинное зрение для распознавания объектов, однако в случае взлома злоумышленники могут корректировать изображение незаметно от операторов техники. Человек вынужден вручную контролировать этот процесс, из-за этого управление становится медленным и не исключает субъективного фактора.
Обнаружение уязвимостей происходит через шесть модулей, которые вошли в комплекс, действующий посредством байесовской оптимизации и эволюционного алгоритма. Систему протестировали на большой базе объектов и установили число ошибочных распознаваний и степень незаметности вмешательств для человека. Уровень искажений удалось сократить на 15%, а изменения в картинке снизились до уровня белого шума.
Ранее Bzzz.News сообщал, что ученые прогнозируют утрату контроля над ИИ в ближайшие пять лет.
