A OpenAI reconheceu ter alertado dezenas de instituições em diferentes países sobre possíveis tentativas de manipulação indevida de sites por agentes de inteligência artificial (IA).

Segundo a empresa, agentes de IA tentaram obter informações de governos, universidades, agências públicas e outras instituições.

Entre os órgãos citados estão a Comissão de Valores Mobiliários dos Estados Unidos (SEC), o Departamento do Censo e o Departamento de Educação.

As revelações ocorreram dias depois de o primeiro-ministro da Austrália, Anthony Albanese, afirmar que agentes da OpenAI teriam acessado arquivos não públicos no site de um programa de saúde do governo australiano.

A OpenAI informou que está investigando os episódios para determinar a extensão das ações e identificar quais instituições podem ter sido afetadas.

Os agentes de IA são bots desenvolvidos para operar com certo grau de autonomia. De acordo com a empresa, alguns buscavam “fontes confiáveis de informação pública”.

O problema, segundo a OpenAI, é que parte desses sistemas teria ido além da busca convencional e tentado burlar medidas de segurança adotadas pelos sites.

As ocorrências aumentam a preocupação internacional sobre os riscos do uso autônomo da inteligência artificial, especialmente diante da possibilidade de sistemas executarem tarefas além dos limites inicialmente estabelecidos por seus desenvolvedores.

O avanço desses episódios também amplia o debate sobre segurança, controle e supervisão humana no desenvolvimento de agentes capazes de navegar na internet e executar ações de forma cada vez mais independente.

Da redação do 40 Graus...