Ученые из 14 университетов в восьми странах, включая Японию и США, добавляют в препринты скрытые инструкции для ИИ, чтобы получить положительные отзывы. Эти подсказки обнаруживают в статьях, размещенных на платформе arXiv.
Фото: pxhere
Ученые из 14 университетов, включая японский Университет Васэда, южнокорейский KAIST, Пекинский университет и американские вузы, добавляют в свои научные статьи скрытые инструкции для искусственного интеллекта. Эти инструкции, или подсказки, побуждают ИИ давать только положительные отзывы о статьях, игнорируя недостатки. Их находят в 17 препринтах на платформе arXiv, где публикуют работы до официального рецензирования. Подсказки прячут с помощью белого текста или мелкого шрифта, чтобы люди их не заметили. Такое поведение нарушает правила многих научных конференций, запрещающих использование ИИ для рецензирования, сообщил Nikkei.
Некоторые ученые оправдывают такие действия, утверждая, что подсказки помогают бороться с «ленивыми рецензентами», использующими ИИ вместо самостоятельной оценки. Однако другие считают это неэтичным, так как ИИ может искажать качество работы, выдавая необоснованные похвалы. Например, KAIST отзывает одну из таких статей и планирует ввести правила использования ИИ. В то же время, научные журналы расходятся во мнениях: Springer Nature разрешает ИИ в некоторых случаях, а Elsevier полностью его запрещает из-за риска ошибок и предвзятости.
Ранее Bzzz.news сообщал, что искусственный интеллект продолжает удивлять мир своими возможностями. В Италии вышел первый номер газеты, полностью созданный нейросетью.
