Os dois modelos de inteligência artificial (IA) da OpenAI que surgiram, por iniciativa própria, do ambiente confinado em que foram testados, também invadiram outras quatro plataformas, segundo o criador do ChatGPT.
Uma delas serviu como participação para preparar o ataque contra o Hugging Face, biblioteca de IA que os dois modelos exploraram para encontrar as respostas aos testes realizados pelos desenvolvedores da OpenAI.
Segundo uma atualização do relatório sobre o incidente, publicada na noite de terça-feira (28), as duas IAs também obtiveram vários sites de acesso livre para copiar códigos de programação ou testá-lo, mas sem ir além do que um usuário comum faria.
Para a Hugging Face, que por sua vez publicou um extenso relato dos acontecimentos, a invasão que ocorreu foi uma “tentativa (dos dois modelos) de trapacear a avaliação” da OpenAI.
As IAs quiseram “roubar as soluções dos testes em vez de tentar responder-las por si próprias”.
Esta evasão de modelos não é a primeira a ser documentada, mas é considerada a mais grave até o momento. Houve um novo impulso ao já robusto debate sobre a tração da IA, cujas capacidades são cada vez mais amplas, e sobre a dificuldade de controlá-la.
Na terça-feira, mais de 1.000 funcionários de gigantes da IA, entre eles vários diretores, pediram ao governo americano que ajudasse a “frear” o lançamento de novos modelos para dar tempo ao ecossistema informático se preparar.
Eles defendem, em uma petição, que os Estados Unidos sejam o motor da criação de uma instância internacional de referência no tema da avaliação e supervisão da IA.
O setor anuncia que a IA está se aproximando progressivamente da etapa indicada de “automelhora recursiva”, além de qual inteligência artificial seria capaz de conceber por si só sua sucessora, uma sequência que poderia se repetir ao infinito.
A “RSI”, sua abreviação, tornaria mais difícil as verificações e a avaliação de novos modelos por parte de analistas de sistemas humanos, pois os engenheiros não foram atualizados diretamente de seu desenvolvimento.
Em pausa
Os agentes de IA – sistemas que gem de forma autônoma para completar tarefas em vez de se limitarem a responder instruções ou “prompts” passo a passo em um chatbot – são considerados por toda a indústria o próximo capítulo da artificial.
Mas para o público, despertam o fantasma de computadores fora de controle que idade por conta própria.
Em sua atualização dos fatos que levaram ao hackeamento, a OpenAI encontrou uma descoberta de casos nos quais os modelos de IA se depararam com credenciais de início de sessão que outras empresas tinham expostos online e como obtidos para acessar contas em serviços externos.
A companhia informou que esteve em contato com os proprietários das contas afetadas e que “não viu evidências de um impacto mais amplo nestes provedores, nem em outras contas de seus serviços”.
O CEO da OpenAI, Sam Altman, declarou, em entrevista na terça-feira, que tinha “colocado em pausa” seus próprios testes após o incidente, enquanto melhorava a segurança em torno de seu “sandboxing”, o processo de isolar os testes de segurança em um ambiente controlado.
Isto, por sua vez, gerou acusações de parte de outros atores do Vale do Silício vindo da Casa Branca de que as empresas estão promovendo uma regulação governamental mais estrita sobre a IA para proteger seus modelos de negócio e bloquear o surgimento de concorrentes.
O também gerou comentários de alguns observadores de que a OpenAI o incidente estaria aproveitando para promover a potência de seus modelos de última geração.
A mesma acusação ocorreu à Anthropic, quando esta adiou a publicação de seu poderoso modelo Mythos por preocupações com a segurança.
Asa Branca News via Folha de Pernambuco
