Израильские IT-специалисты создали систему, которая способна анализировать процесс генерации контента искусственным интеллектом. Она может стать способом выявлять неточности при работе с источниками и сделать технологию надежнее.
Фото: unsplash
Одной из главных проблем нейросетей стала генерация ложной информации, которая может происходить из-за множества нюансов их действия. Специалисты из Хайфского Техниона совместно с NVIDIA нашли способ очистить ответы ИИ от «галлюцинаций» с помощью механизма внешнего контроля, сообщил TechInsider.
Ученые из Израиля создали систему, которая сканирует сигналы и вычисляет источники информации при работе нейросети. Расшифровать метод ее действия полностью в данный момент почти невозможно, но упрощенная модель ИИ находит изменения в активности, которые происходят в момент подбора недостоверных данных. Программисты установили, что при нормальной работе поведение алгоритмов выглядит иначе.
Разработанный метод может изменить подходы к предупреждению ошибок, контролю за качеством и безопасности. В группе разработчиков считают, что упрощенная модель контролирующей нейросети позволит расширить присутствие таких технологий в областях госуправления, медицины, научных исследований и образовании.
Ранее Bzzz.News сообщал, что российские ученые разработали ИИ для распознавания эмоций.
