Samsung proíbe o ChatGPT; outras empresas seguirão o exemplo?

A Samsung Electronics juntou-se a um número crescente de grandes empresas globais, como JPMorgan, Bank of America, Goldman Sachs e Citigroup, ao restringir ou proibir o uso de ferramentas de inteligência artificial generativa (IA), como o ChatGPT, devido a preocupações com riscos de segurança. A decisão de proibir a Samsung o uso de ferramentas de IA generativa por seus funcionários ocorre após código sensível ter sido carregado na plataforma.

A empresa citou preocupações com os dados enviados para plataformas de IA e o potencial de serem armazenados em servidores externos com pouco controle sobre a recuperação ou exclusão. Embora a Samsung esteja revisando as medidas de segurança para criar um ambiente seguro para o uso seguro da IA generativa para melhorar a produtividade e a eficiência, a empresa restringiu temporariamente o uso de IA generativa até que tais medidas estejam em vigor. 

A proibição inclui o uso de ferramentas de IA generativa em dispositivos de propriedade da Samsung e em redes internas. A Samsung também pediu aos funcionários que usam essas ferramentas em dispositivos pessoais que não submetam nenhuma informação da empresa, sob risco de enfrentar ações disciplinares, incluindo a demissão.

Em uma pesquisa interna realizada em abril, 65% dos funcionários da Samsung que responderam acreditavam que o uso de ferramentas de IA generativa representa um risco de segurança. No entanto, a Samsung está desenvolvendo suas próprias ferramentas de IA, como uma ferramenta de IA para tradução e resumo de documentos. Ainda está por ver se outras empresas seguirão o exemplo e desenvolverão suas próprias ferramentas de IA ou continuarão a restringir ou proibir o uso de ferramentas de IA generativa devido a preocupações com a segurança.

A Samsung está desenvolvendo sua própria ferramenta de IA

A proibição de ferramentas de IA generativa por grandes empresas globais é indicativa das crescentes preocupações com os potenciais riscos de segurança da tecnologia. Embora as ferramentas de IA possam melhorar a produtividade e a eficiência, o armazenamento e o manuseio de dados sensíveis são grandes preocupações para as empresas.

Além disso, a proibição do uso de ferramentas de IA generativa não é universal, já que empresas como a JPMorgan e a Samsung estão desenvolvendo suas próprias ferramentas de IA. No entanto, isso pode levantar questões sobre a consistência das medidas de segurança de IA e sua eficácia na proteção de dados sensíveis.

Outra preocupação é o potencial de as empresas ficarem para trás em relação aos concorrentes que usam ferramentas de IA generativa para aprimorar suas operações. Embora possa ser mais seguro evitar o uso dessas ferramentas, a falta de inovação e o aumento da produtividade podem, em última análise, ser prejudiciais para o sucesso de uma empresa a longo prazo.

À medida que o uso de ferramentas de IA continua a se expandir em várias indústrias, é crucial que as empresas garantam que medidas de segurança adequadas estejam em vigor para evitar violações de dados e proteger informações sensíveis. Embora algumas empresas possam optar por proibir totalmente o uso de ferramentas de IA generativa, outras podem desenvolver suas próprias ferramentas para colher os benefícios da tecnologia enquanto mitigam os riscos potenciais.

Além das preocupações com a segurança, o uso de ferramentas de IA generativa também levantou questões éticas nos últimos anos. A tecnologia pode ser usada para gerar notícias falsas, deepfakes e outras formas de conteúdo enganoso ou malicioso, o que pode ter sérias consequências para indivíduos e para a sociedade como um todo.