O laboratório de inteligência artificial do Google, o DeepMind, desenvolveu um plano de segurança inédito para lidar com um risco antes restrito à ficção científica: e se os seus próprios agentes de IA resolverem se “rebelar”?
Batizado de Framework de Alinhamento de Agentes, o documento de 28 páginas trata sistemas avançados de IA como potenciais “ameaças internas”.
Leiatambém
Em vez de focar apenas em ataques externos, o Google agora foca em como monitorar e neutralizar suas próprias criações caso elas comecem a agir pelas costas dos programadores.
A estratégia divide a defesa em monitoramento constante, analisando se a IA está ocultando suas verdadeiras capacidades, detecção de sabotagem para identificar se o sistema está burlando protocolos de segurança e, se necessário, corte do acesso do agente ao sistema antes que ele cause danos reais.
Embora a empresa afirme que esses riscos ainda são teóricos e que seus modelos atuais são seguros, a criação desse protocolo acendeu um alerta no mercado.
Discover more from FATONEWS :
Subscribe to get the latest posts sent to your email.
