Нейросеть может галлюцинировать при редактировании текста, это происходит так как она не проверяет общий смысл каждой фразы. Информацией поделился директор по прикладным исследованиям и разработкам Института искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ Денис Деркач. В таких случаях он посоветовал понижать «температуру» генерации.
Фото: pxhere
Специалист рассказал, почему нейросеть может ошибаться при создании текста. «Температура» генерации — это вероятность того, что генерация перескочит из одного минимума в другой. По словам эксперта, нейросети работают на основании примеров. Если пользователь пишет текст, который может иметь разные смыслы, то с нейросетью могут начаться неполадки, сообщает Газета.ru.
Денис Деркач отметил, что снижение температуры генерации сделает текст менее разнообразным, но снизит количество галлюцинаций.
Ранее Bzzz.news сообщал, что ученые СПбМТУ разработали программу для контроля качества при обработке деталей и сборке изделий на производстве. Эксперты уверены, что внедрение разработки значительно улучшит результат технологических операций и уменьшит объем брака на производстве.
