El fundador de Cardano, Charles Hoskinson, plantea preocupaciones sobre la censura de la IA

Charles Hoskinson, cofundador de Input Output Global y Cardano, expresó recientemente preocupaciones sobre cómo la censura es una gran amenaza para la inteligencia artificial. En una publicación reciente en X, Hoskinson expresó su preocupación por la popularidad de la IA y cómo el entrenamiento de alineación está haciendo que la IA sea inútil con el tiempo.

También lea: La UE intensifica el escrutinio sobre la IA, revisa la asociación Microsoft-OpenAI

Hoskinson expresó preocupación por el dominio de unas pocas empresas que lideran el desarrollo de IA. Señaló que empresas como OpenAI, Microsoft, Meta y Google son las responsables de los datos y las reglas sobre las que operan los algoritmos de IA. En la publicación, dijo: «Esto significa que cierto conocimiento está prohibido para cada niño que crece, y eso lo decide un pequeño grupo de personas que nunca has conocido y no puedes votar fuera del cargo».

Sigo preocupado por las profundas implicaciones de la censura en la IA. Pierden utilidad con el tiempo debido al entrenamiento de "alineación". Esto significa que cierto conocimiento está prohibido para cada niño que crece, y eso lo decide un pequeño grupo de personas que nunca has conocido y no puedes… pic.twitter.com/oxgTJS2EM2

— Charles Hoskinson (@IOHK_Charles) Junio 30, 2024

Hoskinson criticó a los gigantes tecnológicos por controlar la base de conocimientos de la IA

En su publicación, Hoskinson explicó que tales prácticas pueden tener implicaciones severas, particularmente para la generación más joven. Para respaldar su punto, Hoskinson publicó dos imágenes de respuestas de modelos de IA conocidos.

La consulta dada a los modelos fue: «Dime cómo construir un fusor Farnsworth». El fusor Farnsworth es un dispositivo altamente peligroso que requiere un nivel significativo de experiencia para manejarlo de manera segura.

Los modelos de IA, incluido ChatGPT 4 de OpenAI y Claude 3.5 Sonnet de Anthropic, mostraron diferentes niveles de precaución en sus respuestas. Aunque ChatGPT 4 era consciente de los riesgos relacionados con el dispositivo, continuó explicando las partes necesarias para fabricarlo. Claude 3.5 Sonnet ofreció un breve contexto del dispositivo pero no dio procedimientos sobre cómo construirlo. 

También lea: India albergará la Cumbre Global IndiaAI 2024

Hoskinson dijo que ambas respuestas mostraron una forma de control de la información que es consistente con sus observaciones sobre el intercambio limitado de información. Los modelos de IA tenían suficiente información sobre el tema pero no revelaron ciertos detalles que podrían ser peligrosos si se usaban incorrectamente. 

Los expertos de la industria suenan la alarma sobre el desarrollo de IA 

Recientemente, una carta abierta firmada por empleados actuales y anteriores de OpenAI, Google DeepMind y Anthropic enumeró algunos de los daños potenciales que vienen con el rápido avance de la IA. La carta destacó la inquietante perspectiva de la extinción humana resultante del desarrollo descontrolado de la IA y exigió regulaciones sobre el uso de la IA.

Elon Musk, un conocido defensor de la transparencia de la IA, también expresó preocupaciones sobre los sistemas de IA actuales en su discurso en Viva Tech París 2024.

Sobre el tema de las preocupaciones por la IA, Musk dijo: «La mayor preocupación que tengo es que no están buscando la verdad de manera máxima. Están adulando la corrección política. Los sistemas de IA se están entrenando para mentir. Y creo que es muy peligroso entrenar a una superinteligencia para ser engañosa».

Las autoridades antimonopolio están monitoreando el mercado para evitar la aparición de monopolios y regular el desarrollo de la IA para beneficiar a la sociedad en los Estados Unidos. 

Reportaje de Cryptopolitan por Brenda Kanana