A Anthropic, empresa de inteligência artificial, anunciou o Projeto Glasswing, uma iniciativa colaborativa para proteger softwares críticos com o auxílio de seu novo modelo de IA. O projeto visa combater vulnerabilidades de segurança em um cenário onde a IA se torna cada vez mais poderosa.
O Glasswing une forças com nomes proeminentes da indústria de tecnologia, incluindo Amazon AWS, Apple, Broadcom, CrowdStrike, Palo Alto Networks, Google, Microsoft e Nvidia. A colaboração também envolve o JPMorgan, a Linux Foundation e a Cisco Systems.
A iniciativa surge como resposta ao potencial de atores mal-intencionados utilizarem IA para explorar falhas de segurança. A Anthropic enfatiza que nenhuma organização sozinha pode resolver esses desafios, necessitando da cooperação entre desenvolvedores de IA, empresas de software, pesquisadores de segurança, mantenedores de código aberto e governos.
O Projeto Glasswing antecede o lançamento do modelo Mythos da Anthropic, que promete avançadas capacidades de cibersegurança. A empresa argumenta que o aumento da capacidade de codificação da IA, que pode superar até mesmo humanos habilidosos na identificação de vulnerabilidades, torna as empresas de cibersegurança ainda mais essenciais.
A iniciativa busca direcionar essas capacidades para fins defensivos, diante da possibilidade de proliferação de ferramentas de IA que podem ter sérias consequências para economias, segurança pública e defesa nacional. A colaboração visa fortalecer a infraestrutura tecnológica crítica contra ameaças emergentes.
Fonte: Cnbc
