Создатель разработчика Claude пообещал ставить в приоритет безопасность и контроль за ростом возможностей нейросетей вопреки любому давлению. По его словам, технологии могут обеспечить прогресс в медицине, но несут риск из-за доступности для злоумышленников.
Фото: unsplash
В день выхода Anthropic на фондовый рынок США глава компании Дарио Амодеи заявил о готовности своей компании ответственно работать над совершенствованием ИИ. Вопреки давлению со стороны общества, бизнеса и государства он намерен обеспечивать безопасность моделей за счет создания защитных механизмов, обучения, тестирования и мониторинга за поведением нейросетей, сообщил ScienceXXI.
Вместе с тем Амодеи упомянул о положительной стороне ИИ: нейросети способны существенно ускорить развитие медицины и биологии. По его словам, естественный интеллект уже справился с чумой, оспой и полиомиелитом, однако современным ученым не хватает сотрудников и времени. Глава компании отметил, что технологии могли бы ускорить создание лекарств, исследование белков, онкологий и быть инструментом для клинических испытаний.
Что касается, опасностей, то Амодеи упомянул, что ИИ могут начать применять в недоброжелательных целях отдельные люди и государства. Кроме того, система может стать причиной экономических потрясений или выйти из-под контроля создателей.
Ранее Bzzz.News сообщал, что моделям ChatGPT отключили интернет в связи с излишней самостоятельностью.



