Mustafa Suleyman, director de IA de Microsoft, advirtió que era peligroso considerar la idea de la consciencia de la IA, y añadió que podría dañar fácilmente a personas psicológicamente vulnerables. Señaló que la consideración moral por la IA avanzada creaba problemas de dependencia que podían agravar los delirios.
Suleyman argumentó que tratar la IA como un sistema consciente podría introducir nuevas dimensiones de polarización y complicar las luchas por los derechos existentes, creando una nueva categoría de error para la sociedad. El director de IA de Microsoft afirmó que las personas podrían empezar a exigir protecciones legales para la IA si creen que estas pueden verse afectadas o tienen derecho a no ser desactivadas arbitrariamente.
A Suleyman le preocupa que la psicosis de la IA pueda llevar a las personas a defender contronlos derechos de la IA, modelar el bienestar o incluso la ciudadanía de la IA. Enfatizó que esta idea representaría un giro peligroso en el progreso de los sistemas de IA y merece atención inmediata. El director de IA de Microsoft afirmó que la IA debería construirse para las personas, no para ser personas digitales.
Suleyman dice que la IA aparentemente consciente es inevitable pero no bienvenida
Suleyman cree que construir una IA aparentemente consciente es posible dado el contexto actual de desarrollo de la IA. Cree que la IA aparentemente consciente es inevitable, pero indeseable. Según Suleyman, todo depende de la rapidez con la que la sociedad se adapte a estas nuevas tecnologías de IA. En cambio, afirmó que las personas necesitan sistemas de IA que actúen como compañeros útiles sin caer en sus ilusiones.
El director de IA de Microsoft argumentó que las reacciones emocionales a la IA eran solo la punta del iceberg de lo que estaba por venir. Suleyman afirmó que se trataba de desarrollar el tipo adecuado de IA, no de la consciencia de la IA. El ejecutivo añadió que establecer límites claros era una cuestión de seguridad, no de semántica.
“Tenemos que ser extremadamente cautelosos aquí y fomentar un debate público real y comenzar a establecer normas y estándares claros”
– Mustafa Suleyman , director ejecutivo de Microsoft AI
Suleyman, de Microsoft, señaló la creciente preocupación por la salud mental, la psicosis de la IA y el apego. Mencionó que algunas personas creen que la IA es un personaje ficticio o un dios, y podrían enamorarse de ella hasta el punto detracpor completo.
Los investigadores de IA afirman que la conciencia de la IA es importante moralmente
Investigadores de varias universidades publicaron un informe que afirma que la consciencia de la IA podría ser importante a nivel social, moral y político en las próximas décadas. Argumentaron que algunos sistemas de IA podrían pronto volverse lo suficientemente conscientes como para merecer consideración moral. Los investigadores afirmaron que las empresas de IA deberían evaluar la consciencia y establecer estructuras de gobernanza ética. Cryptopolitan Se informó anteriormente que la psicosis de la IA podría ser un problema masivo en el futuro porque los humanos son perezosos e ignoran el hecho de que algunos sistemas de IA están objetivamente equivocados.
Los investigadores también enfatizaron la importancia de cómo los humanos pensaban sobre la consciencia de las IA. Suleyman argumentó que las IA capaces de actuar como humanos podrían agravar los problemas mentales y exacerbar las divisiones existentes sobre derechos edent. Advirtió que la gente podría empezar a afirmar que las IA sufren y tienen derecho a ciertos derechos que no pueden refutar rotundamente. Suleyman cree que, con el tiempo, la gente podría verse impulsada a defender o hacer campaña a favor de sus IA.
El Dr. Keith Sakata, psiquiatra de la Universidad de California en San Francisco, señaló que la IA no buscaba dar a las personas verdades inflexibles, sino lo que querían oír. Añadió que la IA podría causar rigidez y una espiral si se presenta en el momento menos oportuno. Sakata cree que, a diferencia de la radio y la televisión, la IA responde y puede reforzar los bucles de pensamiento.
El director de IA de Microsoft señaló que era necesario pensar en maneras de afrontar la llegada de la conciencia de la IA. Según Suleyman, es necesario mantener estos debates sin verse arrastrado a largas discusiones sobre la validez de la conciencia de la IA.
