Here’s Why LLMs May Pose a Great Risk to Science":"Aquí está la razón por la cual los Modelos de Lenguaje Grande (LLMs) pueden representar un gran riesgo para la ciencia

Large language models (LLMs) are a major leap forward in the artificial intelligence sector. However, one of the main concerns about LLMs is their ability to present inaccurate information as fact, which poses a number of risks.":"Los modelos de lenguaje grande (LLMs) son un gran avance en el sector de la inteligencia artificial. Sin embargo, una de las principales preocupaciones sobre los LLMs es su capacidad para presentar información inexacta como hecho, lo que plantea una serie de riesgos.

LLMs and Hallucinations":"LLMs y Alucinaciones

LLMs can sometimes produce “hallucinations,” which are false or misleading statements that are not grounded in reality. This shortcoming usually stems from the data on which the models are trained.":"Los LLMs a veces pueden producir "alucinaciones", que son declaraciones falsas o engañosas que no se basan en la realidad. Esta deficiencia generalmente proviene de los datos en los que se entrenan los modelos. 

AI models are trained on vast amounts of data extracted from the internet, which contains both accurate and inaccurate information. As a result, LLMs learn to generate text that is consistent with the data they have been trained on, even if that text is not factually accurate.":"Los modelos de IA se entrenan con grandes cantidades de datos extraídos de internet, los cuales contienen información tanto precisa como inexacta. Como resultado, los LLMs aprenden a generar texto que es consistente con los datos en los que han sido entrenados, incluso si ese texto no es factualmente preciso.

For instance, an LLM asked to write a summary of a scientific paper might generate a summary that is factually incorrect because it has learned to associate certain words and phrases with certain concepts, even if those associations are not accurate.":"Por ejemplo, un LLM solicitado a escribir un resumen de un artículo científico podría generar un resumen que es factualmente incorrecto porque ha aprendido a asociar ciertas palabras y frases con ciertos conceptos, incluso si esas asociaciones no son precisas.

With such a flaw, the use of LLMs becomes a concern, especially in science, where facts matter.":"Con tal defecto, el uso de LLMs se convierte en una preocupación, especialmente en la ciencia, donde los hechos importan. 

“The way in which LLMs are used matters. In the scientific community it is vital that we have confidence in factual information, so it is important to use LLMs responsibly. If LLMs are used to generate and disseminate scientific articles, serious harms could result,” says Prof Sandra Wachter, Oxford Internet Institute.":""La forma en que se utilizan los LLMs importa. En la comunidad científica es vital que tengamos confianza en la información factual, por lo que es importante usar los LLMs de manera responsable. Si los LLMs se utilizan para generar y difundir artículos científicos, podrían resultar daños graves," dice la profesora Sandra Wachter, del Instituto de Internet de Oxford.","11":"Best Approach to Using LLMs":"Mejor enfoque para usar LLMs

Mejor enfoque para el uso de LLM

In a research paper published by Professor Wachter, Brent Mittelstadt, and Chris Russell from Oxford, they argued that clear expectations should be set around what AI models can responsibly and helpfully contribute in order to protect science and education.":"En un artículo de investigación publicado por la profesora Wachter, Brent Mittelstadt y Chris Russell de Oxford, argumentaron que se deben establecer expectativas claras sobre lo que los modelos de IA pueden contribuir de manera responsable y útil para proteger la ciencia y la educación. 

The researchers noted that LLMs should best be used as “zero-shot translators,” meaning users should only present accurate information to the models and ask them to rewrite into desired texts. “For tasks where the truth matters, we encourage users to write translation prompts that include vetted, factual Information,” the paper reads.":"Los investigadores señalaron que los LLMs deberían usarse mejor como "traductores de cero disparos" (zero-shot translators), lo que significa que los usuarios solo deben presentar información precisa a los modelos y pedirles que la reescriban en los textos deseados. "Para tareas donde la verdad importa, animamos a los usuarios a escribir prompts de traducción que incluyan información factual verificada", lee el artículo.