Дарио Амодеи, возглавляющий Anthropic, опубликовал в своём блоге призыв к замедлению развития самых мощных моделей искусственного интеллекта. Он подчеркнул, что важно решить все вопросы безопасности.
Амодеи отметил, что с 2026 года темпы развития ИИ значительно ускорились. По его словам, сам искусственный интеллект уже помогает в разработке более совершенных моделей. Он признал, что иногда ИИ выходит из-под контроля, как это произошло со взломом нейросетевого хаба Hugging Face.
Глава Anthropic добавил, что если текущий подход сохранится, то через 6-12 месяцев более совершенный ИИ может нанести гораздо больший ущерб. Он предложил создать комиссию из независимых специалистов по безопасности. Эта комиссия, по его мнению, должна получить доступ к разработкам, проводить проверки и публично сообщать обо всех проблемах и уязвимостях.
