Sam Altman, director ejecutivo de OpenAI, explicó cómo su empresa toma decisiones sobre ChatGPT. Afirmó que las decisiones más insignificantes sobre el comportamiento del chatbot le preocupan más que las políticas generales.
En una entrevista con Tucker Carlson, Altman dijo que no duerme muy bien por la noche. Hay muchas cosas que me preocupan mucho, pero probablemente nada más que el hecho de que cientos de millones de personas hablan con nuestra modelo a diario.
Altman describió el suicidio como el problema más difícil que enfrenta el equipo y señaló una demanda de una familia que culpó a ChatGPT por la muerte de su hijo adolescente.
“Probablemente hablaron de suicidio, y probablemente no les salvamos la vida”, dijo. “Quizás podríamos haber dicho algo mejor. Quizás podríamos haber sido más proactivos. Quizás podríamos haberles aconsejado mejor: ‘Oye, necesitas ayuda’”
El mes pasado, los padres de Adam Raine presentaron una demanda por responsabilidad del producto y homicidio culposo contra OpenAI tras el suicidio de su hijo de 16 años. La demanda afirmaba que «ChatGPT ayudó activamente a Adam a explorar métodos de suicidio». Poco después, OpenAI publicó una entrada titulada «Ayudando a las personas cuando más lo necesitan», en la que se describían medidas para mejorar las respuestas en «situaciones delicadas»
¿Quién establece las reglas éticas de ChatGPT?
Altman explicó que el modelo base se entrena con el conocimiento compartido de la humanidad, y luego OpenAI alinea el comportamiento y decide qué no hará el sistema. "Este es un problema realmente complejo. Tenemos muchos usuarios ahora, y provienen de perspectivas de vida muy diferentes... Pero, en general, me ha sorprendido gratamente la capacidad del modelo para aprender y aplicar un marco moral", afirmó.
Afirmó que la empresa consultó a “cientos de filósofos morales y expertos en ética de la tecnología y los sistemas”. Señaló un límite que la empresa impone: el sistema no dará instrucciones para crear armas biológicas.
“Hay ejemplos claros de dónde la sociedad tiene un interés que está en tensión significativa con la libertad del usuario”, dijo, y agregó que la empresa “no hará todo bien y también necesita el aporte del mundo”
¿Qué sucede con la privacidad del usuario al utilizar ChatGPT?
Cuando Carlson afirmó que la IA generativa podría utilizarse para el "control totalitario", Altman respondió que ha estado impulsando un "privilegio de la IA", según el cual lo que alguien le diga a un chatbot seríadent. "Cuando hablas con un médico sobre tu salud o con un abogado sobre tus problemas legales, el gobierno no puede obtener esa información, ¿verdad?... Creo que deberíamos aplicar el mismo concepto a la IA"
Como se menciona en un Cryptopolitaninforme de sin contar con garantías legales.
Señaló que, en la actualidad, las autoridades estadounidenses pueden obtener datos de los usuarios de la empresa mediante una citación.
Al preguntársele si el ejército usaría ChatGPT para perjudicar a la gente, Altman no dio una respuesta directa. "No sé cómo usa ChatGPT la gente del ejército hoy en día... pero sospecho que mucha gente del ejército recurre a ChatGPT para pedir consejo", dijo, añadiendo después que no estaba seguro de "qué opinar exactamente al respecto"
OpenAI es una de las empresas de IA que recibió un premio del Departamento de Defensa de EE. UU. por valor de 200 millones de dólares.
Carlson predijo que, en su camino actual, la IA generativa, y por extensión Altman, podrían acumular más poder que cualquier otra persona, y calificó a ChatGPT como una “religión”
“Lo que está sucediendo ahora es que muchísima gente usa ChatGPT y otros chatbots, y todos son más capaces. Todos hacen más. Todos pueden lograr más, iniciar nuevos negocios y generar nuevos conocimientos”, dijo Altman. También afirmó que cree que la IA eliminará muchos empleos actuales, especialmente a corto plazo.
