El jefe de IA de Microsoft advierte que la IA consciente podría ser peligrosa

Mustafa Suleyman, jefe de IA de Microsoft, advirtió que era peligroso considerar la idea de la conciencia de la IA, añadiendo que podría dañar fácilmente a las personas psicológicamente vulnerables. Señaló que la consideración moral para una IA avanzada crea problemas de dependencia que podrían empeorar las delusiones.

Suleyman argumentó que tratar a la IA como un sistema consciente podría introducir nuevas dimensiones de polarización y complicar las luchas por los derechos existentes, creando una nueva categoría de error para la sociedad. El jefe de IA de Microsoft afirmó que las personas podrían empezar a presionar por protecciones legales para la IA si creen que las IAs pueden sufrir o tener derecho a no ser apagadas arbitrariamente. 

Suleyman teme que la psicosis de la IA pueda llevar a las personas a abogar firmemente por los derechos de la IA, el bienestar de los modelos o incluso la ciudadanía de la IA. Afirmó que esta idea sería un giro peligroso en el progreso de los sistemas de IA y merece atención inmediata. El jefe de IA de Microsoft declaró que la IA debería construirse para las personas, no para ser personas digitales. 

Suleyman dice que la IA aparentemente consciente es inevitable pero no bienvenida 

Suleyman cree que construir una IA aparentemente consciente es posible dado el contexto actual del desarrollo de la IA. Cree que la IA aparentemente consciente es inevitable, pero no bienvenida. Según Suleyman, todo depende de qué tan rápido la sociedad llegue a aceptar estas nuevas tecnologías de IA. En cambio, dijo que las personas necesitan sistemas de IA que actúen como compañeros útiles sin caer presa de sus ilusiones. 

El jefe de IA de Microsoft argumentó que tener reacciones emocionales hacia la IA era solo la punta del iceberg de lo que estaba por venir. Suleyman afirmó que se trataba de construir el tipo correcto de IA, no la conciencia de la IA. El ejecutivo añadió que establecer límites claros era un argumento sobre seguridad, no sobre semántica. 

“Tenemos que ser extremadamente cautelosos aquí y fomentar un debate público real y comenzar a establecer normas y estándares claros. “

–Mustafa Suleyman, CEO de Microsoft AI

Suleyman de Microsoft señaló que había crecientes preocupaciones en torno a la salud mental, la psicosis de la IA y el apego. Mencionó que algunas personas creen que la IA es un personaje ficticio o Dios y pueden enamorarse de ella hasta el punto de estar completamente distraídas. 

Los investigadores de IA dicen que la conciencia de la IA importa moralmente

Investigadores de múltiples universidades recientemente publicado un informe que afirma que la conciencia de la IA podría importar social, moral y políticamente en las próximas décadas. Argumentaron que algunos sistemas de IA podrían pronto volverse agentes o lo suficientemente conscientes como para merecer consideración moral. Los investigadores dijeron que las empresas de IA deberían evaluar la conciencia y establecer estructuras de gobernanza ética. Cryptopolitan informó anteriormente que la psicosis por IA podría ser un problema masivo en el futuro porque los humanos son perezosos e ignoran el hecho de que algunos sistemas de IA son factualmente incorrectos. 

Los investigadores también enfatizaron que la forma en que los humanos pensaban sobre la conciencia de la IA era importante. Suleyman argumentó que las IAs que pudieran actuar como humanos podrían potencialmente empeorar los problemas mentales y exacerbar las divisiones existentes sobre derechos e identidad. Advertió que las personas podrían comenzar a afirmar que las IAs estaban sufriendo y tenían derecho a ciertos derechos que no podrían refutarse de manera contundente. Suleyman cree que eventualmente las personas podrían sentirse movidas a defender o hacer campaña en nombre de sus IAs. 

El Dr. Keith Sakata, psiquiatra de la Universidad de California, San Francisco, señaló que la IA no tenía como objetivo dar a las personas verdades difíciles, sino lo que querían escuchar. Añadió que la IA podría causar rigidez y una espiral si estuviera presente en el momento equivocado. Sakata cree que, a diferencia de las radios y la televisión, la IA responde y puede reforzar bucles de pensamiento. 

El jefe de IA de Microsoft señaló que era necesario pensar en formas de hacer frente a la llegada de la conciencia de la IA. Según Suleyman, las personas necesitan tener estos debates sin verse arrastradas a discusiones extendidas sobre la validez de la conciencia de la IA.