Altman advierte sobre problemas de privacidad al usar ChatGPT para ciertos propósitos

Cualquiera que busque asesoramiento o consejos personales de ChatGPT debe tener precaución, advierte el CEO de OpenAI, Sam Altman, porque las conversaciones con la IA no cuentan con las mismas salvaguardas de privacidad que las de un médico o abogado real.

Altman recaudó el tema en un episodio reciente del podcast del comediante Theo Von. Señaló que a medida que la IA se adentra en áreas más sensibles, aún no existe un escudo legal para lo que los usuarios comparten.

«La gente habla de las cosas más personales de sus vidas con ChatGPT», dijo Altman. Señaló que muchos, especialmente los usuarios más jóvenes, tratan al chatbot como un terapeuta o coach de vida, preguntando «qué debo hacer?» cuando enfrentan problemas de relación u otros asuntos privados.

Por el contrario, cuando alguien confía en un terapeuta, abogado o médico licenciado, la ley protege esos detalles bajo el privilegio médico-paciente o abogado-cliente. Con una IA, sin embargo, aún no existe tal confidencialidad legal.

Esa brecha podría convertirse en un problema real en la corte, advirtió Altman, ya que OpenAI se vería obligada a entregar los transcritos de chat si se ordenara. «Creo que eso es muy injusto. Creo que deberíamos tener el mismo concepto de privacidad para tus conversaciones con IA que con un terapeuta o cualquier otra cosa, y nadie tuvo que pensar en eso ni siquiera hace un año», añadió.

La falta de privacidad puede ser una barrera para el uso generalizado de ChatGPT

OpenAI ve esta falta de privacidad como una barrera potencial para un uso más amplio. Más allá de los enormes volúmenes de datos en línea necesarios para entrenar sus modelos, la empresa ahora enfrenta demandas de entregar chats de usuarios en litigios.

En un caso de alto perfil, OpenAI está luchando contra una orden judicial importante como parte de su demanda contra The New York Times. La sentencia obligaría a la empresa a retener los registros de varios cientos de millones de usuarios de ChatGPT en todo el mundo, excluyendo solo a los de la versión empresarial.

OpenAI ha apelado la decisión, calificándola de «exceso de autoridad», y argumentando que si los tribunales pueden anular sus propias políticas de privacidad, las futuras demandas de acceso por parte de la policía o para descubrimiento de pruebas podrían multiplicarse.

Las empresas tecnológicas actuales reciben regularmente citaciones para obtener datos de usuarios en investigaciones penales. Pero a medida que evolucionan las leyes, también lo hacen las preocupaciones sobre lo que las huellas digitales podrían revelar. Cuando la Corte Suprema revocó Roe v. Wade en junio de 2022, muchos usuarios se cambiaron a aplicaciones más seguras o a Apple Health, que cifra sus registros.

Altman también interrogó a Von sobre su uso de ChatGPT después de que el presentador admitiera que era cauteloso al compartir detalles personales. «Creo que tiene sentido… querer realmente la claridad de privacidad antes de usar [ChatGPT] mucho, como la claridad legal», dijo Altman, subrayando que hasta que la IA disfrute de la misma confidencialidad que los profesionales tradicionales, los usuarios pueden pensarlo dos veces antes de abrirse.