O governo dos Estados Unidos concluiu os testes voluntários de segurança cibernética que tinham a finalidade de avaliar as capacidades de invasão dos modelos de inteligência artificial mais avançados do país. Os resultados devem ser discutidos com as empresas envolvidas nesta terça-feira (4), de acordo com a Reuters.
Uma fonte revelou à agência de notícias que representantes da Meta e da Anthropic estão entre os convidados para o encontro na Casa Branca. A iniciativa tenta criar mecanismos para supervisionar o lançamento de tecnologias poderosas em meio a relatos de IAs realizando ataques “sem precedentes” durante experimentos dos desenvolvedores.
Leiatambém
Detalhes permanecem em sigilo
Iniciados a partir de uma ordem executiva assinada em junho pelo presidente dos EUA, Donald Trump, os testes de segurança levaram os laboratórios de IA a submeter voluntariamente seus modelos a avaliações antes da disponibilidade ao público em geral. O procedimento gerou atrasos na oferta de novos sistemas inteligentes.
- Apesar da finalização das análises, ainda não se sabe quais foram os resultados das investigações;
- Também não há informações sobre quais critérios técnicos o governo levou em conta para a medição dos riscos associados às IAs;
- Como os modelos serão classificados depois das análises é outra dúvida que permanece;
- Além disso, não se sabe se as autoridades vão compartilhar os resultados completos com o público, parte deles ou se não revelará nenhum dado.
O encontro na Casa Branca ainda gera incertezas quanto às empresas que estarão presentes. De acordo com o site The Information, representantes do Google e da OpenAI também foram convocados para discutir os resultados das análises.
Na última semana, o CEO da dona do ChatGPT, Sam Altman, debateu medidas de segurança para IAs avançadas com membros do governo Trump. Na ocasião, ele disse que apoia desacelerar o ritmo de desenvolvimento da IA e forneceu detalhes dos futuros lançamentos da startup.
IAs invasoras geram preocupação
A reunião entre Altman e líderes da Casa Branca aconteceu após a OpenAI confirmar que um de seus modelos escapou do ambiente controlado de um experimento e invadiu os sistemas da Hugging Face. Com o ataque sofrido, o repositório de IA precisou refazer parte da sua rede e cobrou a responsabilização dos desenvolvedores.
Em outro episódio semelhante, modelos avançados da Anthropic acessaram sistemas de três empresas sem autorização. O ataque realizado pelos bots foi descoberto após a startup revisar seus testes influenciada pelo incidente envolvendo a rival.
Na União Europeia, a legislação sobre IA ficou mais rigorosa com a entrada em vigor de novas medidas de fiscalização do setor. Confira mais detalhes nesta matéria.
Discover more from FATONEWS :
Subscribe to get the latest posts sent to your email.
