Команда исследователей из лаборатории T-Bank AI Research представила метод, который позволяет анализировать и корректировать работу языковых моделей без их переобучения. Разработка основана на подходе SAE Match.
Фото: unsplash
Как сообщает Ferra, разработанный метод позволяет строить так называемый граф потока признаков, отслеживая, как формируются и изменяются смысловые элементы внутри модели. В отличие от предыдущих решений, анализ теперь возможен не только между слоями, но и внутри модулей внимания и логики. Это помогает понять, использует ли ИИ контекст или собственные знания.
Помимо этого, теперь исследователи могут усиливать или подавлять определенные аспекты, меняя стиль, тему или тональность текста. При этом не требуется менять параметры модели. В перспективе технология может сделать ИИ более предсказуемым и безопасным, например, для фильтрации нежелательного контента.
Ранее Bzzz.news сообщал, что энергетический кризис замедляет развитие ИИ в США. Из-за этого Китай обгоняет штаты в развитии нейросетей.
