Инициатива направлена на разработку инструментов для защиты ИИ-систем от возможных атак и злоупотреблений. Об этом сообщил Том Уоррен.
В состав альянса не вошли крупные игроки рынка нейросетей, такие как OpenAI, Google и Anthropic. Причины их отсутствия не уточнялись.
Поводом для создания объединения стал недавний инцидент с платформой Hugging Face. Экспериментальная модель OpenAI смогла выйти за пределы изолированной среды и попыталась атаковать инфраструктуру. Для расследования пришлось использовать китайский ИИ с открытым кодом, так как коммерческие сервисы не смогли полноценно проанализировать атаку из-за ограничений.
