Переход от конкуренции к сотрудничеству для безопасного будущего человечества.
Google и ведущие IT-компании объединились для создания Коалиции по безопасному ИИ (CoSAI). Инициатива направлена на устранение риска безопасности ИИ путем предоставления доступа к открытым методологиям, фреймворкам и инструментам.
Коалиция CoSAI стремится решать проблемы, связанные с безопасностью, конфиденциальностью и надежностью генеративного ИИ. Вопросы, такие как утечка конфиденциальной информации и дискриминация, подчеркивают необходимость более строгих стандартов и практик в области безопасности ИИ.
В состав CoSAI вошли такие ведущие компании, как Amazon, Anthropic, Chainguard, Cisco, Cohere, GenLab, IBM, Intel, Microsoft, NVIDIA, OpenAI, Paypal и Wiz. Коалиция будет работать под эгидой OASIS Open, международного консорциума по стандартам и открытому исходному коду.
CoSAI планирует сосредоточиться на трех основных задачах:
Коалиция также будет сотрудничать с такими организациями, как Frontier Model Forum, Partnership on AI, Open Source Security Foundation и ML Commons, чтобы продвигать ответственный ИИ.
В конечном итоге инициативы вроде CoSAI способствуют не только развитию технологий, но и повышению доверия пользователей к ним. Только совместными усилиями можно создать такой мир, где искусственный интеллект будет служить на благо человечества, обеспечивая его безопасность и процветание.