В создании Коалиции за безопасный ИИ (CoSAI) приняли участие Google, OpenAI, Microsoft, Amazon, Nvidia, Intel и ряд других крупных технологических игроков.
Такие данные приводятся на официальном сайте Oasis Open. CoSAI создали для решения проблемы “фрагментированного ландшафта безопасности ИИ” путем обмена методиками, фреймворками и инструментами с открытым исходным кодом, призванными обеспечить безопасность систем искусственного интеллекта «по замыслу».
В начале CoSAI сформирует три рабочих потока, со временем планируется добавить еще. Речь идет о безопасности цепочки поставок программного обеспечения для систем ИИ (улучшение отслеживания состава и происхождения для обеспечения безопасности приложений ИИ), подготовке защитников к меняющемуся ландшафту кибербезопасности (решение инвестиционных и интеграционных задач в ИИ и классических системах) и управлении безопасностью ИИ (разработка передовых практик и рамок оценки рисков для обеспечения безопасности ИИ), сказано в сообщении Oasis Open.
По словам представителя Google, компания использует ИИ уже на протяжении многих лет и видит постоянный потенциал для защитников, но также признает его возможности и для противников.