CEO da Hugging Face pede que OpenAI assuma responsabilidade por ciberataque / foto: MARCO BERTORELLO - AFP/Arquivos
CEO da Hugging Face pede que OpenAI assuma responsabilidade por ciberataque
O CEO da Hugging Face, Clement Delangue, disse nesta sexta-feira (31) que os desenvolvedores de inteligência artificial (IA) devem ser responsabilizados caso seus modelos saiam do controle, após a startup ser atacada por um software autônomo da OpenAI.
Dois modelos de IA da OpenAI saíram por iniciativa própria do ambiente em que estavam sendo testados para atacar o site Hugging Face, uma biblioteca de IA. Aparentemente, a OpenAI só tomou conhecimento do incidente após o seu término, e a Hugging Face conseguiu conter a invasão graças a um modelo chinês.
Delangue descartou hoje, em entrevista à rede de TV CNN, que vá tomar medidas legais contra a OpenAI, mas ressaltou que os ataques cibernéticos são "ilegais" e que deveria haver uma forma de responsabilizar "as empresas que estão cometendo alguns erros". "Não queremos acabar em um mundo onde ataques cibernéticos contra outras empresas sejam normalizados."
"Esse foi o primeiro incidente de segurança que senti de forma muito visceral", disse Sam Altman, diretor-executivo da OpenAI, em um episódio do podcast Invest Like the Best lançado nesta semana.
A Anthropic, responsável pela IA Claude, revelou ontem que seus modelos "tiveram acesso não autorizado" a três organizações durante testes que deveriam mantê-los afastados dos sistemas "do mundo real". Entre os modelos estava um dos mais potentes, conhecido como Mythos 5, disponibilizado para um número limitado de parceiros aprovados.
N.Hinterseer--SbgTB
