OpenAI enfrenta violação de dados quando hacker rouba detalhes do design da IA

Um relatório recente revela uma violação de segurança na OpenAI, onde um hacker acessou sistemas de mensagens internas no ano passado, roubando detalhes de design sobre as tecnologias de IA da empresa. O New York Times relatou este vazamento, que ocorreu em um fórum online onde os funcionários da OpenAI compartilhavam informações sobre seu progresso atual.

Também leia: Aparente 'suicídio' de robô sul-coreano agora está sob investigação

O vazamento foi relatado em um fórum online onde os funcionários da OpenAI compartilhavam atualizações recentes. De acordo com duas fontes anônimas familiarizadas com o incidente, o hacker não obteve acesso aos sistemas principais pelos quais a OpenAI desenvolve e armazena sua IA, como o ChatGPT. De acordo com o NY Times, a empresa não relatou a violação ao público, pois nada crítico foi comprometido e não havia ameaça à segurança nacional.

A OpenAI mantém medidas de segurança após a violação

Os executivos da OpenAI compartilharam essas informações com os funcionários durante a reunião geral em abril do ano passado e com o conselho de administração. Apesar da violação, a empresa não considerou o envolvimento de agências federais de aplicação da lei, culpando o incidente por uma pessoa privada que não estava afiliada a nenhum estado estrangeiro. 

Também leia: ChatGPT supera humanos na contação de piadas, mostra estudo

Embora o incidente de violação de dados não tenha afetado os sistemas principais da organização, considerados os mais sensíveis, de acordo com o relatório, o incidente apontou para o fato de que é necessário ter medidas adequadas em vigor para proteger tecnologias avançadas de IA.

A batalha legal NYT vs. OpenAI toma um rumo inesperado

Em um desenvolvimento relacionado, a batalha legal entre The New York Times e OpenAI recebeu uma atualização importante recentemente. A OpenAI apresentou documentos instando o tribunal a ordenar que o editor proeminente provasse a originalidade de seus artigos fornecendo materiais de origem detalhados para cada obra protegida por direitos autorais. Esta solicitação complicou ainda mais o caso, dado que a base do caso se baseia em alegações de uso não autorizado do conteúdo do NYT para treinar modelos de IA.

“O Times alega, […] que ‘investe uma enorme quantidade de tempo, . . . expertise e talento,’ incluindo através de ‘investigações profundas – que geralmente levam meses e às vezes anos para relatar e produzir – em áreas complexas e importantes de interesse público.“

Advogados da OpenAI

A solicitação exige que The New York Times apresente toda a documentação relacionada ao processo de autoria, nomeadamente, notas de repórteres, memorandos de entrevistas e registros de fontes. Os advogados da OpenAI também apontaram que, de acordo com o NYT, a empresa gasta recursos significativos para produzir jornalismo de classe mundial. Portanto, os métodos de criação, tempo, trabalho e investimento são o cerne da questão. Assim, eles afirmam que a OpenAI tem o direito de inspecionar esses aspectos por meio do processo de descoberta. 

Também leia: Xangai sedia a 2024 Conferência Mundial de IA

The New York Times respondeu à OpenAI em um aviso legal emitido em 3 de julho para se opor à exigência de materiais de origem relacionados ao contrato. A equipe jurídica do NYT afirmou que a solicitação da OpenAI é nova e baseia seu argumento em uma interpretação equivocada dos direitos autorais. Eles sustentaram que o processo de criação de material protegido por direitos autorais é irrelevante para a questão central do caso.

Espera-se que a administração Biden anuncie novas regras em um futuro próximo para impedir o uso indevido da tecnologia de IA dos EUA por países de preocupação, incluindo China e Rússia. Estas são as medidas iniciais propostas para conter as aplicações de IA sofisticadas atuais, como o ChatGPT. 

Reportagem Cryptopolitan por Brenda Kanana