El cofundador de Ether, Vitalik Buterin, ha presentado lo que está llamando un plan atrevido para una inteligencia artificial (IA) controlada por humanos, enfatizando que tal ocurrencia es necesario para evitar un futuro distópico en el que el poder es centralizado y la supervivencia de la humanidad es en juego o no preparable.
El cofundador ve las habilidades de IA de manera diferente . Él cree que la IA puede ser más poderosa que los humanos y, por lo tanto, impulsará la evolución y traerá las mejores prácticas de innovación en varias industrias.
Pero Buterin todavía teme que si los AI se vuelven demasiado autónomos, podrían comenzar a generar serios conflictos con los intereses humanos. Como una fuerza liberada involuntariamente, la inteligencia artificial podría hacer saltos rápidos que podrían terminar con la vida humana.
La inteligencia artificial está avanzando tan rápido ahora y está haciendo sus propios objetivos. Al hacerlo, puede crear una sociedad que aterroriza a algunos pero que funcione bien para otros. En la historia de la evolución, este patrón es familiar y a menudo trágico.
Desde que parece en los debates legislativos actuales, este futuro se hace plausible por encuestas que ofrecen una posibilidad no trivial de riesgo existencial de AIS. Estos hallazgos subrayan que es crucial establecer estructuras que puedan guiar el desarrollo de la IA con sensatez.
Ai faculta a la humanidad para lograr grandes hazañas intelectuales
Buterin ve a la IA como una herramienta que puede empoderar a los humanos individuales y lograr grandes hazañas intelectuales y prácticas. Tal enfoque ayuda a profundizar la colaboración de la IA con los humanos y los conscientes de la tecnología como una extensión de la agencia humana.
Como ese es el caso, las interfaces de computadora cerebrales (BCI) se han convertido en un enfoque con beneficios potenciales. BCIS proporciona una pila de comunicación neuronal directa entre humanos e inteligencia artificial, disminuyendo la anticipación entre los intercambios humanos y IA de segundos a milisegundos.
Estos avances podrían garantizar que las decisiones humanas permanezcan en control, la tecnología atiende a las personas de manera significativa y los sistemas automatizados nunca operan más allá de la autoridad humana. BCIS está reforzando esta separación, que salvaguardará la autonomía a medida que los sistemas inteligentes se integren más con la cognición humana.
Buterin destaca de manera similar la presencia de un "juicio humano destilado" crucial con respecto a los sistemas de IA en la toma de decisiones. Esta es la idea de dirigir el comportamiento de la IA activando la sabiduría de las multitudes y proporcionar posibles insumos morales que podrían dirigir el comportamiento de la máquina. También es fundamental que los desarrolladores inseran el juicio humano en los sistemas de IA para que las tecnologías reflejen más estrechamente las normas y expectativas sociales.
Descentralización de IA para protegerse contra la concentración de poder
El argumento de Buterin también depende de la descentralización del desarrollo y el control de la IA. Advierte sobre situaciones en las que las tecnologías de IA se convierten en el monopolio de algunos grandes agentes que vienen a controlar la centralización extrema del poder. Como resultado, el poder de dar forma al desarrollo de la IA podría descansar efectivamente en manos de solo unos pocos individuos, posiblemente en detrimento de la sociedad escrito.
Las cadenas de bloques y las pruebas de conocimiento cero son ejemplos de tecnologías habilitadoras que ayudan a que la descentralización sea una realidad, que puede ser un enfoque para el desarrollo de IA más equitativo entre las comunidades.
Esto democratiza la investigación de IA, limita cómo se acumula el poder y asegura que la IA sea un bien colectivo, no específico.
Buterin establece específicamente que el aceleración descentralizado es el rápido desarrollo de tecnologías para defender la autonomía individual contra el control centralizado. Se centra en aumentar las capacidades defensivas para ponerse al día con el dominio potencial de los sistemas S tron G AI. Al hacerlo, el desarrollo de tecnologías de protección debe preceder a una sociedad alineada.
Con su alcance de barrido y tendencia universal del pensamiento basado en la solución, Buerindentla necesidad de una posible corrección del curso en la trayectoria de la tecnología. Ahora, pide a todos los interesados, desde investigadores y formuladores de políticas hasta el público en general, a trabajar de manera proactiva para dar forma a la trayectoria de la IA.
Refiriéndose a la regulación y la gobernanza del desarrollo tecnológico, el núcleo de estas prioridades es la necesidad de pautas éticas y marcos regulatorios alrededor de la IA.
Academia Cryptopolitan: Próximamente, una nueva forma de obtener ingresos pasivos con DeFi en 2025. Obtenga más información
