Самарские ученые придумали способ, как распознать ИИ-собеседника в интернете.
Фото: База / Олеся Орехова
Для разоблачения потенциального бота существует определенный тип вопросов. Ученые исследовали проблемы «возраста информации», которую исползуют популярные системы искусственного интеллекта: большие языковые модели (БЯМ).
Именно их обычно применяют при написании текстов и их обработке, а также для перевода, редактуры, исправления ошибок и т. д. Кроме того, БЯМ способна находить и собирать информацию, а также контактировать с пользователями и отвечать на вопросы. Об этом сообщает официальный сайт Самарского университета.
По словам доктора технических наук, профессора кафедры программных систем Андрея Сухова, традиционные БЯМ умеют дообучаться по большей части тем и областей. Поэтому их данные быстро устаревают. И чат-боты перестают быть точными и актуальными.
Сухов подчеркнул, что сейчас еще нельзя твердо говорить, точный ли ответ дал бот, опираясь на реальные факты, или он взял непроверенные сведения. Однако исследователи обнаружили закономерность, которая поможет вывести на чистую воду прикидывающихся людьми ботов.
«Формат ответов чат-бота на запросы, относящиеся к информации до и после обучения БЯМ, сильно различается», — отметил Мурад Джериби, один из авторов исследования.
Если запросить данные о том, что было уже после обучения БЯМ, бот идет в поисковик и приносит список из отрывков текстов со ссылками на сайты. И по этим ответам можно легко угадать, когда обучали модель. Они же помогут и понять, кто на том конце диалога. Например, можно спросить о количестве браков и разводов в любой стране за определенный отрезок времени. Ответ на него подскажет, с кем идет разговор и когда бот, если это он, закончил «бот-школу».
Кроме того, добытые самарскими учеными наработки могут помочь в апгрейде теста Тьюринга. Методика не справляется с ИИ сейчас. По словам исследователей, предложенный ими алгоритм пригодится для составления свежего списка вопросов для проходящих тест Тьюринга.
Ранее База писала, что российские ученые предложили собирать ягоды с помощью роботов.
