Wissenschaftler fordern strengere KI-Offenlegung angesichts der „Slop“-Explosion in Papers

Wissenschaftler, die innerhalb der KI-Forschungswelt arbeiten, stehen vor einem Glaubwürdigkeitsproblem, das sie nicht länger ignorieren können.

Große Konferenzen, die sich auf KI-Forschung konzentrieren, reagierten, nachdem die Review-Systeme mit schwachen Einreichungen verstopft waren.

Die Organisatoren sahen einen starken Anstieg von Papers und Peer-Reviews, die mit wenig menschlichem Aufwand produziert wurden. Die Sorge betrifft nicht den Stil. Die Sorge betrifft die Genauigkeit. Fehler schleichen sich an Stellen ein, an denen Präzision früher wichtig war.

Konferenzen gehen hart vor, da Papers von geringer Qualität die Gutachter überwältigen

Forscher warnten frühzeitig, dass der unkontrollierte Einsatz automatisierter Schreibwerkzeuge der Branche schaden könnte. Inioluwa Deborah Raji, eine KI-Forscherin an der University of California, Berkeley, sagte, die Situation sei schnell chaotisch geworden.

„Es gibt eine gewisse Ironie daran, dass es so viel Begeisterung für KI gibt, die andere Felder prägt, wenn in Wirklichkeit unser Feld diese chaotische Erfahrung aufgrund der weit verbreiteten Nutzung von KI durchgemacht hat“, sagte sie.

Harte Daten zeigen, wie weit verbreitet das Problem wurde. Eine im August veröffentlichte Studie der Stanford University ergab, dass bis zu 22 Prozent der Informatik-Papers Anzeichen für die Nutzung von Large Language Models zeigten.

Pangram, ein Start-up für Textanalyse, überprüfte Einreichungen und Peer-Reviews auf der International Conference on Learning Representations im Jahr 2025. Es schätzte, dass 21 Prozent der Bewertungen vollständig von KI generiert wurden, während mehr als die Hälfte sie für Aufgaben wie das Bearbeiten nutzte. Pangram fand auch heraus, dass 9 Prozent der eingereichten Papers mehr als die Hälfte ihres Inhalts auf diese Weise produziert hatten.

Das Problem erreichte im November einen Wendepunkt. Gutachter bei ICLR markierten ein Paper, das verdächtigt wurde, von KI generiert zu sein, das dennoch basierend auf den Gutachterbewertungen in den Top 17 Prozent lag. Im Januar meldete das Erkennungsunternehmen GPTZero mehr als 100 automatische Fehler in 50 Papers, die auf NeurIPS vorgestellt wurden, das weithin als die führende Plattform für fortgeschrittene Forschung in der Branche gilt.

Während die Bedenken wuchsen, aktualisierte ICLR seine Nutzungsregeln vor der Konferenz. Papers, die die umfangreiche Nutzung von Sprachmodellen nicht offenlegen, sehen sich nun Ablehnungen gegenüber. Gutachter, die mit Automatisierung erstellte Bewertungen von geringer Qualität einreichen, riskieren Strafen, einschließlich der Ablehnung ihrer eigenen Papers.

Hany Farid, ein Informatikprofessor an der University of California, Berkeley, sagte: „Wenn Sie wirklich Papers von geringer Qualität veröffentlichen, die einfach falsch sind, warum sollte die Gesellschaft uns als Wissenschaftler vertrauen?“

Paper-Volumen steigen, während die Erkennung nicht mithalten kann

Laut dem Bericht erhielt NeurIPS im Jahr 2025 21.575 Papers, im Vergleich zu 17.491 im Jahr 2024 und 9.467 im Jahr 2020. Ein Autor reichte mehr als 100 Papers in einem einzigen Jahr ein, weit mehr als für einen Forscher typisch.

Thomas G. Dietterich, emeritierter Professor an der Oregon State University und Vorsitzender des Informatik-Sektors von arXiv, sagte, auch die Uploads im offenen Repository seien stark gestiegen.

Dennoch sagen Forscher, die Ursache sei nicht einfach. Einige argumentieren, der Anstieg komme von mehr Menschen, die in die Branche einsteigen. Andere sagen, die intensive Nutzung von KI-Tools spiele eine große Rolle. Die Erkennung bleibt schwierig, da es keinen gemeinsamen Standard zur Identifizierung automatisierten Textes gibt. Dietterich sagte, häufige Warnsignale seien erfundene Referenzen und falsche Zahlen. Autoren, die dabei erwischt werden, können vorübergehend von arXiv gesperrt werden.

Kommerzieller Druck sitzt ebenfalls im Hintergrund. Hochkarätige Demos, steigende Gehälter und aggressive Konkurrenz haben Teile der Branche dazu gebracht, sich auf Quantität zu konzentrieren. Raji sagte, Momente der Hype zögen Außenstehende an, die nach schnellen Ergebnissen suchten.

Gleichzeitig sagen Forscher, einige Verwendungen seien legitim. Dietterich bemerkte, dass die Schreibqualität in Papers aus China verbessert wurde, wahrscheinlich weil Sprachwerkzeuge dabei helfen, Englisch klarer umzuschreiben.

Das Problem erstreckt sich nun über die Veröffentlichung hinaus. Unternehmen wie Google, Anthropic und OpenAI bewerben ihre Modelle als Forschungspartner, die die Entdeckung in Bereichen wie den Lebenswissenschaften beschleunigen können. Diese Systeme werden mit akademischem Text trainiert.

Farid warnte, dass die Modellleistung nachlassen kann, wenn Trainingsdaten zu viel synthetisches Material enthalten. Vergangene Studien zeigen, dass Large Language Models in Unsinn zusammenbrechen können, wenn sie ungesäuberte automatisierte Daten erhalten.

Farid sagte, Unternehmen, die Forschung scrapen, hätten starke Anreize zu wissen, welche Papers menschlich geschrieben sind. Kevin Weil, Leiter der Wissenschaft bei OpenAI, sagte, Tools erforderten immer noch menschliche Kontrollen. „Es kann ein massiver Beschleuniger sein“, sagte er. „Aber man muss es überprüfen. Es entbindet Sie nicht von der Sorgfalt.“