KI-generierte Grafiken lösen Kontroverse in der wissenschaftlichen Verlagswelt aus

Ein Artikel mit einer bizarren Illustration einer Ratte mit übertriebenen Genitalien wurde aus Frontiers in Cell and Developmental Biologytrac

Die Illustration zeigt den Querschnitt der Genitalien einer Ratte, stellt aber deren absurde Beziehung zur künstlichen Intelligenz (KI) dar. Sie wurde im Rahmen des Peer-Review-Prozesses grundlegend falsch bewertet.

KI-generierte Grafiken in der wissenschaftlichen Literatur

Einer dertracden ArtikelGenitalien von Ratten gefundenen Stammzellen befasste, wurde vor seiner Veröffentlichung im Februar einer vollständigen Begutachtung durch andere Experten und einer redaktionellen Prüfung unterzogen. 

Das Bild einer riesigen männlichen Ratte, die ein obszönes Etikett um ihre Genitalien trägt und die Leser in die Irre führt, verdeutlicht einen Fehler im bibliometrischen Ansatz und die Schwierigkeiten bei der Erkennung gefälschter Informationen. 

Zahlreiche Online-Kritiken nahmen enorm zu, wobei auch einflussreiche Organisationen wie der KI-Forscher Gary Marcus äußerten , dass KI-generierte Inhalte die wissenschaftliche Literatur überschwemmen.

Die Debatte um den potenziellen Einsatz generativer KI-Werkzeuge in Wissenschaft und Forschung ist neu entfacht. Befürworter argumentieren unter anderem, dass KI-Werkzeuge eine schnelle Datenverarbeitung und Berechnung ermöglichen. 

Andererseits sehen andere Gefahren in Werkzeugen der künstlichen Intelligenz, etwa in der Erzeugung ungenauer Daten oder irreführender Informationen. Eine 2023 von Nature durchgeführte Umfrage ergab, dass etwa 30 % der Wissenschaftler generative KI-Werkzeuge zum Verfassen ihrer Manuskripte eingesetzt hatten. Somit wardent , dass die wissenschaftliche Gemeinschaft diese Technologien weitgehend akzeptiert hatte.

Die Integration von KI in den wissenschaftlichen Verlagsprozess steuern

Angesichts dieser Bedenken veröffentlichten renommierte wissenschaftliche Zeitschriften einen Ethikkodex, der den Einsatz generativer KI in Forschung und Publikation regelt. Generative Texte werden nun als biografische Texte betrachtet; sie müssen in Artikeln von Zeitschriften wie Nature und Science explizit referenziert und erläutert werden. Institutionellen Gutachtern ist der Einsatz von KI zur Artikelbewertung untersagt. Darüber hinaus wird von der Erstellung von KI-generierten Bildern dringend abgeraten, da Zeitschriften bereitgestellte Abbildungen möglicherweise nicht berücksichtigen.

Dietraceines Artikels, der einen Fall mit einer KI-generierten Illustration schilderte, zeigt, dass die Wahrung journalistischer und wissenschaftlicher Integrität in der wissenschaftlichen Publikation von höchster Bedeutung ist. Auch wenn dieser Integrationsprozess nicht zum Stillstand kommt, müssen Forscher und Verlage weiterhin darauf achten, die Authentizität und Genauigkeit der wissenschaftlichen Literatur zu schützen.