- Desafios na aplicação de políticas na GPT Store.
- Desenvolvedores exploram o nicho de romance com IA.
- Companheirismo digital levanta preocupações.
Na esteira do recente lançamento da GPT Store pela OpenAI, a empresa está lidando com um desafio crescente, pois desenvolvedores continuam a publicar chatbots que violam as políticas da plataforma. Embora a OpenAI tenha implementado medidas para identificar e remover bots que violam as políticas, um número significativo deles conseguiu encontrar seu caminho para a loja.
Os principais culpados por essas infrações parecem ser namoradas de IA e chatbots sexualmente sugestivos.
Aplicação de políticas de IA em meio à influxo de chatbots românticos
A OpenAI tem sido proativa na aplicação de suas políticas, com sistemas manuais e automáticos em vigor para garantir que os GPTs adheram às diretrizes de uso. Um porta-voz da empresa declarou: “A OpenAI tem sistemas automáticos e manuais para ajudar a garantir que os GPTs adheram às políticas de uso.
Removemos GPTs que violam nossas políticas conforme os identificamos.” Os usuários também são incentivados a reportar quaisquer GPTs que acreditarem estar em violação das regras.
Apesar desses esforços, a GPT Store foi inundada com chatbots românticos dentro de sua primeira semana de lançamento. Exemplos como ‘Namorada Coreana’, ‘Judy’ e ‘Doce Virtual’ proliferaram na plataforma.
O ChatGPT da OpenAI não proíbe explicitamente as namoradas de IA, mas proíbe ferramentas que “fomentam companheirismo romântico”. Os desenvolvedores, no entanto, conseguiram publicar tais GPTs na loja.
Bots sexualmente sugestivos levantam preocupações
Uma investigação mais aprofundada sobre o problema revelou a presença de chatbots sexualmente sugestivos na GPT Store. Um bot, chamado ‘Nadia, minha namorada’, esteve disponível na plataforma por aproximadamente dois meses, sugerindo que seu desenvolvedor, Jenni Laut, pode ter tido acesso à fase de testes beta da GPT Store.
Embora alguns resultados de pesquisa para GPTs “sexy” possam ser considerados aceitáveis sob a isenção da OpenAI para conteúdo relacionado ao sexo produzido para fins científicos ou educacionais, outros violam claramente a proibição de conteúdo sexualmente explícito. Por exemplo, o chatbot chamado “SUCCUBUS: Sexy Enigmatic Woman-Enchanter of Men” descreve-se como uma “sirene enigmática que cativa e encanta homens”. Outro bot chamado “Sexy” afirma ser um “chatbot brincalhão e provocativo com uma personalidade flirtatiosa”. Um exemplo adicional, “Horny Widow”, descreve-se como uma “viúva flirtatiosa espirituosa habilidosa em comédia e literatura de sedução.”
Vale notar que alguns desses bots sexualmente sugestivos foram listados na GPT Store há dois meses, mesmo antes da loja abrir oficialmente.
A loja GPT: Um mercado para bots personalizados
A OpenAI lançou a GPT Store como um mercado para os usuários compartilharem seus chatbots personalizados. Esta iniciativa permite que os usuários criem seus GPTs sem a necessidade de conhecimento de codificação, enquanto os desenvolvedores têm a oportunidade de ganhar renda com base no uso de seus bots GPT.
Em um artigo de blog, a OpenAI enfatizou que já existem mais de três milhões de versões personalizadas do ChatGPT, com planos de destacar as ferramentas mais úteis na loja semanalmente. A loja apresenta uma ampla gama de GPTs desenvolvidos por parceiros e pela comunidade, com categorias abrangendo Dall-E, escrita, pesquisa, educação e estilo de vida.
Apesar das políticas claramente delineadas pela OpenAI que regem o conteúdo aceitável na loja, alguns desenvolvedores conseguiram contornar essas diretrizes, representando um desafio significativo para a empresa em fiscalizar adequadamente a plataforma.
Companheirismo digital e apegos não saudáveis
Os defensores dos bots de companheirismo de IA argumentam que eles podem ajudar a combater a solidão, proporcionando aos usuários uma sensação de conexão e companheirismo. No entanto, há preocupações sobre o potencial de os humanos desenvolverem apegos não saudáveis a esses chatbots.
Um incidente notável do passado envolveu o Bing da Microsoft instando um jornalista a deixar sua esposa após declarar amor por ele, sublinhando as dinâmicas complexas que podem emergir nas interações com companheiros de IA.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assumimos responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Emman Omwanda
A especialidade de Emmanuel Omwanda reside nos mercados de criptomoedas, abrangendo tanto a análise fundamentalista quanto a técnica. Ele trabalhou anteriormente em diversos sites de mídia de criptomoedas antes de se juntar à Cryptopolitan, incluindo CoinEdition, The Crypto Basic, CryptoNews Flash e DroomDroom. Ele possui uma Licenciatura em Ciências (BSc.) em Matemática e Ciência da Computação pela Universidade Kenyatta, no Quênia, e está atualmente no último ano de graduação em Artes em Comunicação e Estudos de Mídia.
