Alto funcionario de IA califica la conciencia de IA como una "pregunta equivocada"

El jefe de inteligencia artificial de Microsoft se opone a los esfuerzos por crear máquinas aparentemente conscientes, afirmando que sólo las criaturas vivientes pueden experimentar verdaderamente la conciencia.

Mustafa Suleyman declaró a la CNBC, durante una entrevista en la Conferencia AfroTech de Houston esta semana, que los investigadores deberían abandonar el trabajo destinado a construir sistemas de IA que parezcan conscientes. Lo calificó de enfoque totalmente erróneo.

“No creo que ese sea un trabajo que la gente deba estar haciendo”, dijo Suleyman en la conferencia donde pronunció un discurso inaugural. “Si haces la pregunta equivocada, terminas con la respuesta equivocada. Creo que es la pregunta totalmente equivocada”

Como figura destacada de Microsoft en inteligencia artificial, Suleyman se ha convertido en un destacado crítico de los esfuerzos por desarrollar servicios de IA que podrían hacer creer a la gente que la tecnología puede sufrir o sentir emociones. El año pasado, escribió "The Coming Wave", un libro que analiza los peligros que plantean la IA y otras tecnologías emergentes similares. En agosto, publicó un ensayo en el que abogaba por desarrollar una IA que ayudara a las personas en lugar de imitarlas.

El creciente mercado de compañeros de IA genera debate

Esta conversación se desarrolla en medio de una competencia entre empresas tecnológicas por crear compañeros de IA, incluyendo las ofertas de Meta y xAI de Elon Musk. El asunto se vuelve cada vez más complejo a medida que el sector de la IA generativa, liderado por OpenAI de Sam Altman, busca la inteligencia artificial general, sistemas capaces de alcanzar un rendimiento cognitivo similar al humano.

Altman afirmó en agosto que la inteligencia artificial general ya no es un término especialmente útil. Añadió que los modelos simplemente están mejorando rápidamente y que la gente dependerá de ellos para cada vez más tareas.

Para Suleyman, separar las crecientes capacidades de la IA de cualquier posibilidad de sentimientos humanos es de profunda importancia.

“Nuestra experiencia física del dolor es algo que nos entristece profundamente y nos hace sentir fatal, pero la IA no se entristece cuando experimenta ‘dolor’”, explicó. “Es una distinción muy, muy importante. En realidad, solo crea la percepción, la aparente narrativa de la experiencia, de sí misma y de la conciencia, pero eso no es lo que realmente experimenta. Técnicamente, lo sabemos porque podemos ver lo que hace el modelo”.

Señaló el naturalismo biológico, una teoría del filósofo John Searle que afirma que la conciencia requiere los procesos biológicos de un cerebro vivo.

“La razón por la que hoy otorgamos derechos a las personas es porque no queremos hacerles daño, porque sufren. Tienen una red de dolor y preferencias que implican evitar el dolor”, dijo Suleyman. “Estos modelos no tienen eso. Son solo una simulación”

Suleyman reconoció que el estudio de la conciencia sigue siendo una ciencia en desarrollo. No pidió impedir que otros investiguen el tema, reconociendo que cada organización tiene objetivos diferentes. Sin embargo, reiteró sutronoposición al concepto.

“No son conscientes”, dijo. “Así que sería absurdo investigar esa cuestión, porque no lo son y no pueden serlo”

Microsoft toma un camino diferente al de sus competidores

Suleyman viaja para hablar públicamente sobre los riesgos que implica la búsqueda de la concienciación sobre la IA. Antes de Houston, participó en la Cumbre del Consejo Internacional de Paley en Silicon Valley la semana pasada.

Allí, anunció que Microsoft no creará chatbots para contenido sexual, a diferencia de sus competidores. Según informó Cryptopolitan, Altman reveló en octubre que ChatGPT ahora permite a los usuarios adultos tener conversaciones de índole sexual, mientras que xAI ofrece un compañero de anime provocativo.

“Básicamente, puedes comprar esos servicios de otras empresas, así que estamos tomando decisiones sobre a qué lugares no iremos”, dijo Suleyman nuevamente en AfroTech.

En su intervención en AfroTech, Suleyman afirmó que eligió a Microsoft en parte por su trayectoria, estabilidad y amplio alcance tecnológico. El director ejecutivo, Satya Nadella, lo contrató personalmente.

“Otro punto a destacar es que Microsoft necesitaba ser autosuficiente en IA”, afirmó. Nadella emprendió una misión hace 18 meses para garantizar que la empresa pudiera entrenar sus propios modelos completamente internamente utilizando sus propios datos.