Gigantes da tecnologia formam grupo para lutar por segurança em IA

Um grupo formado por várias empresas de grande porte em tecnologia anunciou uma iniciativa conjunta para melhorar a segurança em serviços e produtos de inteligência artificial (IA). O resultado é uma entidade chamada Coalition for Secure AI, ou CoSAI, que já está em operação.

A CoSAI tem como objetivo principal resolver o que ela chama de “cenário fragmentado de segurança em IA“. Na prática, isso significa o desenvolvimento de iniciativas conjuntas e o compartilhamento de códigos e experiências para que essas companhias tenham acesso a ferramentas, metodologias e estruturas umas das outras.

Até o momento, não há projetos concretos já confirmados envolvendo as empresas, mas um guia de boas práticas para membros dessa indústria deve ser desenvolvido no futuro.

A logo do novo grupo de IA.Fonte:  CoSAI 

Os primeiros trabalhos vão envolver três temas gerais: criar mecanismos de defesa e governança para projetos de IA; desenvolver práticas para segurança na área que resultem na criação de projetos com códigos seguros e resolver alguns dos principais desafios atuais.

Quem faz parte da CoSAI?

A CoSAI vai existir dentro de uma entidade já com bastante tempo de atuação: a Organization for the Advancement of Structured Information Standards (OASIS), uma organização não governamental que luta por padrões abertos na tecnologia.

Atualmente, integram a coalisão de segurança em IA as seguintes empresas:

• Google
• OpenAI
• Microsoft
• Amazon
• Nvidia
• Intel
• IBM
• PayPal
• Cisco
• Anthropic
• Chainguard
• Cohere
• GenLab
• Wiz

Da lista, várias delas já contam com serviços próprios de IA, como Google (do Gemini), OpenAI (dona do ChatGPT) e Microsoft (do Copilot). Há ainda startups do setor, como a Anthropic, do chatbot Claude, e a Wiz, que pode ser adquirida em breve pela Google.

“Nós temos usados IA por muitos anos e vendo o potencial contínuo para defesa, mas também reconhecendo as oportunidades para adversários. A CoSAI vai ajudar organizações grandes e pequenas a integrar IA de forma segura e responsável, ajudando elas a equilibrar benefícios enquanto reduzem riscos”, diz a vice-presidente de segurança da Google, Heather Adkins.

Mais informações podem ser encontradas no site oficial da CoSAI (em inglês).