El principal responsable de IA llama a la conciencia de la IA una “pregunta equivocada”

El jefe de inteligencia artificial de Microsoft está rechazando los esfuerzos por crear máquinas aparentemente conscientes, afirmando que solo los seres vivos pueden experimentar realmente la conciencia.

Mustafa Suleyman dijo a CNBC durante una entrevista en la Conferencia AfroTech en Houston esta semana que los investigadores deberían abandonar el trabajo destinado a construir sistemas de IA que parezcan conscientes. Lo llamó un enfoque completamente equivocado.

“No creo que sea un trabajo que la gente debería estar haciendo”, dijo Suleyman en la conferencia donde dio un discurso principal. “Si haces la pregunta incorrecta, terminas con la respuesta incorrecta. Creo que es totalmente la pregunta incorrecta.”

Como la figura principal de Microsoft en inteligencia artificial, Suleyman se ha convertido en un crítico destacado de los esfuerzos por desarrollar servicios de IA que podrían hacer que las personas crean que la tecnología puede sufrir o sentir emociones. El año pasado, escribió “The Coming Wave”, un libro que examina los peligros planteados por la IA y tecnologías emergentes similares. En agosto, publicó un ensayo abogando por construir IA para ayudar a las personas en lugar de imitarlas.

El creciente mercado de compañeros de IA despierta debate

Esta conversación se desarrolla en medio de una carrera competitiva entre empresas tecnológicas para crear compañeros de IA, incluidas las ofertas de Meta y xAI de Elon Musk. El asunto se vuelve cada vez más intrincado a medida que el sector de la IA generativa, encabezado por OpenAI de Sam Altman, persigue la inteligencia general artificial, sistemas capaces de un rendimiento cognitivo a nivel humano.

Altman dijo en agosto que la inteligencia general artificial ya no es un término particularmente útil. Dijo que los modelos simplemente están mejorando rápidamente y que las personas dependerán de ellos para cada vez más tareas.

Para Suleyman, separar las crecientes capacidades de la IA de cualquier posibilidad de sentimientos humanos es profundamente importante.

«Nuestra experiencia física del dolor es algo que nos hace sentir muy tristes y terribles, pero la IA no se siente triste cuando experimenta el «dolor»», explicó Suleyman . «Es una distinción muy, muy importante. En realidad, solo está creando la percepción, la narrativa aparente de la experiencia, de sí misma y de la conciencia, pero eso no es lo que realmente está experimentando. Técnicamente, usted sabe esto porque podemos ver lo que está haciendo el modelo».

Señaló el naturalismo biológico, una teoría del filósofo John Searle que establece que la conciencia requiere los procesos biológicos de un cerebro vivo.

“La razón por la que otorgamos derechos a las personas hoy es porque no queremos dañarlas, porque sufren. Tienen una red de dolor y tienen preferencias que implican evitar el dolor”, dijo Suleyman. “Estos modelos no tienen eso. Es solo una simulación.”

Suleyman reconoció que el estudio de la conciencia sigue siendo una ciencia en desarrollo. No pidió bloquear a otros para investigar el tema, reconociendo que diferentes organizaciones tienen diferentes objetivos. Sin embargo, enfatizó su fuerte oposición al concepto.

“No son conscientes”, dijo. “Por lo tanto, sería absurdo perseguir investigaciones que examinen esa pregunta, porque no lo son y no pueden serlo.”

Microsoft toma un camino diferente al de sus competidores

Suleyman está viajando para hablar públicamente sobre los riesgos involucrados en la búsqueda de la conciencia de la IA. Antes de Houston, apareció en la Cumbre del Consejo Internacional Paley en Silicon Valley la semana pasada.

Allí, anunció que Microsoft no creará chatbots para contenido sexual, en contraste con sus competidores. Según informó Cryptopolitan, Altman reveló en octubre que ChatGPT ahora permite a los usuarios adultos tener conversaciones sexuales, mientras que xAI ofrece un compañero provocativo de anime.

“Básicamente puedes comprar esos servicios de otras empresas, así que estamos tomando decisiones sobre los lugares a los que no iremos”, dijo Suleyman nuevamente en AfroTech.

Al hablar en AfroTech, Suleyman dijo que eligió a Microsoft en parte debido a su historia, estabilidad y amplia cobertura tecnológica. El CEO Satya Nadella lo reclutó personalmente.

“Lo otro a decir es que Microsoft necesitaba ser autosuficiente en IA”, dijo. Nadella inició una misión hace 18 meses para asegurar que la empresa pudiera entrenar sus propios modelos completamente en casa utilizando sus propios datos.