Глава Anthropic заявил, что будет развивать ИИ исключительно под контролем человека

Создатель разработчика Claude пообещал ставить в приоритет безопасность и контроль за ростом возможностей нейросетей вопреки любому давлению. По его словам, технологии могут обеспечить прогресс в медицине, но несут риск из-за доступности для злоумышленников.

Глава Anthropic заявил, что будет развивать ИИ исключительно под контролем человека

Фото: unsplash

В день выхода Anthropic на фондовый рынок США глава компании Дарио Амодеи заявил о готовности своей компании ответственно работать над совершенствованием ИИ. Вопреки давлению со стороны общества, бизнеса и государства он намерен обеспечивать безопасность моделей за счет создания защитных механизмов, обучения, тестирования и мониторинга за поведением нейросетей, сообщил ScienceXXI.

Вместе с тем Амодеи упомянул о положительной стороне ИИ: нейросети способны существенно ускорить развитие медицины и биологии. По его словам, естественный интеллект уже справился с чумой, оспой и полиомиелитом, однако современным ученым не хватает сотрудников и времени. Глава компании отметил, что технологии могли бы ускорить создание лекарств, исследование белков, онкологий и быть инструментом для клинических испытаний.

Что касается, опасностей, то Амодеи упомянул, что ИИ могут начать применять в недоброжелательных целях отдельные люди и государства. Кроме того, система может стать причиной экономических потрясений или выйти из-под контроля создателей.

Ранее Bzzz.News сообщал, что моделям ChatGPT отключили интернет в связи с излишней самостоятельностью.