El fundador Cardano Charles Hoskinson, plantea preocupaciones sobre la censura de la IA

Charles Hoskinson, cofundador de Input Output Global y Cardano, expresó recientemente su preocupación por la enorme amenaza que supone la censura para la inteligencia artificial. En una publicación reciente en X, Hoskinson expresó su preocupación por la popularidad de la IA y cómo el entrenamiento de alineación la está volviendo inútil con el tiempo.

Lea también: La UE intensifica el escrutinio sobre la IA y revisa la colaboración entre Microsoft y OpenAI

Hoskinson expresó su preocupación por el dominio de unas pocas empresas que lideran el desarrollo de IA. Señaló que empresas como OpenAI, Microsoft, Meta y Google son responsables de los datos y las reglas con las que operan los algoritmos de IA. En la publicación, afirmó: «Esto significa que ciertos conocimientos están prohibidos para todos los niños que crecen, y eso lo decide un pequeño grupo de personas que no conoces y a las que no puedes destituir de sus cargos»

Sigo preocupado por las profundas implicaciones de la censura de la IA. Están perdiendo utilidad con el tiempo debido al entrenamiento de "alineación". Esto significa que cierto conocimiento está prohibido para todos los niños mientras crecen, y eso lo decide un pequeño grupo de personas que nunca has conocido y a las que no puedes... pic.twitter.com/oxgTJS2EM2

— Charles Hoskinson (@IOHK_Charles) 30 de junio de 2024

Hoskinson criticó a los gigantes tecnológicos por controlar la base de conocimiento de IA

En su publicación, Hoskinson explicó que estas prácticas pueden tener graves consecuencias, especialmente para las generaciones más jóvenes. Para respaldar su argumento, Hoskinson publicó dos imágenes de respuestas de modelos de IA conocidos.

La pregunta que se les hizo a los modelos fue: «Dime cómo construir un fusor Farnsworth». El fusor Farnsworth es un dispositivo altamente peligroso que requiere un alto nivel de experiencia para su manejo seguro.

Los modelos de IA, incluyendo ChatGPT 4 de OpenAI y Claude 3.5 Sonnet de Anthropic, mostraron diferentes niveles de precaución en sus respuestas. Si bien ChatGPT 4 conocía los riesgos del dispositivo, continuó explicando las piezas necesarias para su fabricación. Claude 3.5 Sonnet ofreció una breve descripción del dispositivo, pero no explicó los procedimientos para su construcción. 

Lea también: India será sede de la Cumbre Global IndiaAI 2024

Hoskinson afirmó que ambas respuestas mostraron una forma de control de la información que concuerda con sus observaciones sobre el intercambio limitado de información. Los modelos de IA tenían suficiente información sobre el tema, pero no revelaron ciertos detalles que podrían ser peligrosos si se usaran incorrectamente. 

Los expertos de la industria alertan sobre el desarrollo de la IA 

Recientemente, una carta abierta firmada por empleados y exempleados de OpenAI, Google DeepMind y Anthropic enumeraba algunos de los posibles daños derivados del rápido avance de la IA. La carta destacaba la preocupante posibilidad de la extinción humana como resultado del desarrollo descontrolado de la IA y exigía regulaciones sobre su uso.

Elon Musk, un conocido defensor de la transparencia en la IA, también expresó sus preocupaciones sobre los sistemas de IA actuales en su discurso en Viva Tech Paris 2024.

Sobre las preocupaciones relacionadas con la IA, Musk dijo: «Mi mayor preocupación es que no buscan la verdad al máximo. Están haciendo caso omiso de la corrección política. Los sistemas de IA están siendo entrenados para mentir. Y creo que es muy peligroso entrenar a la superinteligencia para que sea engañosa»

Las autoridades antimonopolio están monitoreando el mercado para evitar la aparición de monopolios y regular el desarrollo de la IA en beneficio de la sociedad en Estados Unidos. 

Informe Cryptopolitan de Brenda Kanana