Лидеры ИИ-отрасли призвали замедлить развитие технологий
Пока главы ИИ-компаний призывают остановиться и выработать общие стандарты безопасности, другие – настаивают на продолжении гонки. Маск и Альтман поддержали идею замедления, Трамп предупредил о риске уступить Китаю.
Руководитель Anthropic Дарио Амодей предложил замедлить развитие искусственного интеллекта. Он предупредил, что при неконтролируемом развитии в ближайшие месяцы технология «сможет захватить весь интернет», и предложил компаниям объединиться для выработки общих стандартов безопасности. Инициативу поддержали основатель xAI и Tesla Илон Маск и глава OpenAI Сэм Альтман, сообщает РБК.
Дарио Амодей представил трехэтапный план замедления: сначала – допуск независимых экспертов к проверке моделей, затем – координация компаний в демократических странах, наконец – глобальное взаимодействие, включая Китай. «Мы обязаны перед человечеством попытаться», – подчеркнул он.
Реакция политиков на угрозы со стороны нейросетей разнится. Президент США Дональд Трамп заявил, что ИИ принесет больше пользы, чем вреда, и опасается уступить лидерство Китаю. Зампред Совбеза России Дмитрий Медведев усомнился в возможности международного регулирования ИИ, сославшись на «жадность корпораций». При этом он подчеркнул, что угроза от нейросетей реальна.
Тем временем из Anthropic ушел еще один исследователь в области безопасности – Джо Бентон. Он заявил, что компании участвуют в гонке за созданием сверхразума и недостаточно вкладываются в безопасность. Ранее о похожих причинах ухода сообщил его коллега Джейкоб Коксон, а исследователь Эван Хубингер оценил вероятность уничтожения человечества ИИ в ближайшее десятилетие более чем в 10%.