¿Hay Razones Suficientes para Prohibir el Uso de ChatGPT?

Resumen TL;DR

• Algunos países prohíben ChatGPT debido a preocupaciones sobre posibles problemas éticos y la posibilidad de que la IA sea explotada para propósitos dañinos.
• Italia ha prohibido ChatGPT debido a preocupaciones sobre la privacidad y una violación de datos. 
• Siete otras naciones han prohibido ChatGPT debido al control gubernamental sobre la información y la comunicación.
• El bloqueo geográfico de ChatGPT puede obstaculizar la innovación y restringir el acceso a los avances tecnológicos, limitando las perspectivas de crecimiento en el sector digital.

Samsung ha prohibido recientemente el uso de herramientas de IA generativa como ChatGPT en sus redes internas y dispositivos propiedad de la empresa por temor a que cargar información sensible en estas plataformas represente un riesgo de seguridad, informa Bloomberg News.

Los riesgos de privacidad involucrados en el uso de ChatGPT varían según cómo un usuario accede al servicio. Si una empresa es la API de ChatGPT, entonces las conversaciones con el chatbot no son visibles para el equipo de soporte de OpenAI y no se utilizan para entrenar los modelos de la empresa. Sin embargo, esto no es cierto para el texto introducido en la interfaz web general usando sus configuraciones predeterminadas.

Una de las razones principales citadas para la prohibición del uso de ChatGPT es los posibles problemas éticos planteados por el uso de la IA. Algunos países, por ejemplo, han expresado preocupación por la posibilidad de que la IA se utilice para discriminar contra grupos específicos o violar los derechos de privacidad. Otra fuente de preocupación es la posibilidad de que la IA sea explotada para propósitos dañinos, como ciberataques.

Eficacia de la prohibición del uso de ChatGPT

La política de Samsung significa que se une a un gran número de otras empresas e instituciones que han establecido límites para el uso de herramientas de IA generativa, aunque las razones exactas de las restricciones varían. JPMorgan ha restringido su uso por preocupaciones de cumplimiento normativo, CNN según informes, mientras que otros bancos como Bank of America, Citigroup, Deutsche Bank, Goldman Sachs y Wells Fargo también han prohibido o restringido el uso de dichas herramientas. Las escuelas de la ciudad de Nueva York han prohibido ChatGPT por temor al fraude académico y a la desinformación, mientras que las preocupaciones sobre la protección de datos y la seguridad infantil fueron citadas como la razón de la prohibición temporal de ChatGPT en Italia.

Cabe mencionar que la eficacia de estas restricciones puede ser cuestionada, ya que puede ser difícil hacer cumplir las regulaciones de uso de la IA, especialmente dada la naturaleza global de la tecnología. No obstante, estas prohibiciones destacan la cautela con la que ciertos países abordan el desarrollo y el uso de la IA, así como la necesidad de sopesar los posibles beneficios de la tecnología frente a los riesgos potenciales.

¿Por qué Italia prohíbe el uso de ChatGPT?

Dentro de sus fronteras, Italia ha prohibido el uso de ChatGPT, una herramienta de IA generativa creada por OpenAI. Italia es el primer gobierno occidental en imponer restricciones a ChatGPT, un sofisticado chatbot. Italia es el último gobierno en imponer restricciones tecnológicas, uniéndose a países como China, Corea del Norte, Irán y Rusia. Los reguladores italianos dieron a OpenAI 20 días para solucionar sus diversos problemas o enfrentar una multa de hasta 21,7 millones de dólares, o el 4% de sus ingresos anuales.

La Autoridad Italiana de Protección de Datos ahora está investigando a OpenAI, lo que ha generado preocupaciones sobre la explicación legal proporcionada por la empresa para justificar la recopilación y almacenamiento generalizados de datos personales para el

La Autoridad Italiana de Protección de Datos también acusó al inventor de ChatGPT de no notificar a los usuarios y a otras partes cuyos datos adquirió sobre su existencia, lo que implica que OpenAI no obtuvo el consentimiento explícito de los usuarios antes de recopilar y procesar sus datos personales.

Además, las autoridades italianas descubrieron una violación de datos que podría haber expuesto las comunicaciones de los usuarios y los detalles de pago. Este incidente generó preocupaciones adicionales sobre la seguridad de ChatGPT y los riesgos potenciales asociados con su uso.

Otros países que prohíben el uso de ChatGPT

Al momento de escribir este artículo, siete naciones han prohibido esencialmente ChatGPT por parte de sus respectivos gobiernos y partidos gobernantes. Entre ellos se encuentran Rusia, China, Corea del Norte, Cuba, Irán, Siria e Italia.

Todos estos países tienen un estricto control gubernamental en relación con la información y la comunicación. Estos gobiernos pueden considerar a ChatGPT como un desafío potencial en relación con su control sobre el tránsito de información dentro de sus fronteras.

Es crucial tener en cuenta que las prohibiciones de estos países sobre ChatGPT no implican necesariamente que la tecnología sea completamente inaccesible dentro de sus fronteras. Las personas pueden poder acceder al chatbot utilizando VPN u otras técnicas. Sin embargo, la restricción sugiere que los gobiernos de estos países están siendo cautelosos en su adopción de modelos de lenguaje avanzados como ChatGPT.

Caso de Rusia

Rusia es conocida por sus estrictas regulaciones sobre el flujo de información, al igual que China. Anteriormente, ha habido ejemplos de sitios de redes sociales como VK.com de Rusia, un sitio de redes sociales, y Baidu de China, un motor de búsqueda chino que atiende al 75 por ciento del tráfico de búsqueda chino. Estas son las respuestas rusas y chinas a Facebook y Google, famosos a nivel mundial. Y detrás de la creación de estos sitios hay una preocupación seria: monitorear el flujo de información.

De manera similar, Sberbank, una institución bancaria rusa, ha anunciado el desarrollo y lanzamiento de Gigachat, un nuevo chatbot de IA. Este chatbot está planeado para competir directamente con ChatGPT de OpenAI, un modelo de lenguaje de IA altamente reconocido y popular.

GigaChat es el segundo chatbot de IA lanzado en Rusia, tras la suspensión de ChatGPT debido a preocupaciones sobre la desinformación y el uso ilegal.

Se ha afirmado que GigaChat puede hablar de manera más inteligente en ruso que en idiomas extranjeros y puede responder preguntas, mantener discusiones y producir código de programación. Los probadores pueden unirse mediante un canal de Telegram cerrado, que se ha liberado a una pequeña comunidad.

Inhibición de la innovación mediante el bloqueo geográfico

Ciertos gobiernos restringen el acceso de los ciudadanos y las empresas a ChatGPT mediante el bloqueo geográfico. Como resultado, las empresas pueden encontrar más difícil desarrollar y competir a escala global. También puede limitar el acceso a las ventajas de ChatGPT, como un mejor servicio al cliente y conversaciones más personalizadas.

El bloqueo geográfico se refiere a las prácticas utilizadas por los comerciantes en línea para restringir las ventas transfronterizas en línea basadas en la nacionalidad, residencia o lugar de establecimiento. Las prácticas de bloqueo geográfico incluyen: negar el acceso a sitios web desde otros Estados miembros y/o situaciones donde se concede el acceso a un sitio web, pero se impide al consumidor del extranjero finalizar la compra o se le pide que pague con una tarjeta de débito o crédito de un país determinado.

El Reglamento (UE) 2018/302 ('Reglamento de bloqueo geográfico') tiene como objetivo proporcionar a los consumidores y empresas dentro del mercado interior de la UE más oportunidades. Aborda el problema de que algunos consumidores no puedan comprar bienes y servicios a comerciantes ubicados en un Estado miembro diferente debido a su nacionalidad, lugar de residencia o lugar de establecimiento.

Qué hacer en casos de bloqueo geográfico

Una desventaja potencial del bloqueo geográfico de ChatGPT es que puede obstaculizar la innovación y restringir el acceso a los avances tecnológicos. Esto se debe al bloqueo geográfico, que restringe a los usuarios de acceder al chatbot en países específicos, limitando potencialmente las oportunidades de innovación y crecimiento en el sector digital. Afortunadamente, hay una manera fácil de eludir el bloqueo geográfico: conectarse a una Red Privada Virtual (VPN). Las VPN funcionan enrutando su tráfico a través de un servidor en otro país. Esto oculta su dirección IP real, que a menudo se usa para determinar su ubicación, y la reemplaza con una dirección IP temporal específica del país.

Por supuesto, hay razones válidas para prohibir el uso de una herramienta cuando representa un peligro y puede llevar a más daños, como en las escuelas. Sin embargo, no todos están de acuerdo con la idea de prohibir ChatGPT en las escuelas, sino que, en cambio, fomentan a los profesores a usarlo para un mayor aprovechamiento.

“En cambio, creo que las escuelas deberían adoptar cuidadosamente ChatGPT como una ayuda de enseñanza, una que podría desbloquear la creatividad de los estudiantes, ofrecer tutoría personalizada y preparar mejor a los estudiantes para trabajar junto con sistemas de IA como adultos.” – Kevin Roose, NYT

Una nota de última hora: Samsung reportedly tiene planes para que sus empleados utilicen herramientas de IA eventualmente, pero parece que está esperando desarrollar soluciones internas. ¿Cuál es tu perspectiva sobre el tema de la prohibición del uso de ChatGPT?