Wie fördert eine ausgewogene KI-Forschungsregulierung Innovation, während sie gesellschaftliche Interessen schützt? (Exklusiver Bericht)

In den Annalen der menschlichen Innovation haben wenige Entwicklungen so viel Begeisterung, Debatte und Besorgnis ausgelöst wie die rasante Entwicklung der künstlichen Intelligenz (KI). Von selbstfahrenden Autos, die durch unsere Straßen cruisen, bis hin zu Algorithmen, die jede unserer Präferenzen vorhersagen, greifen die Tentakel der KI mit erstaunlicher Geschwindigkeit in den Stoff unseres täglichen Lebens ein. Doch während wir am Rande dessen stehen, was viele als die nächste industrielle Revolution betrachten, wächst die Sorge. Wie können wir das enorme Potenzial der KI nutzen, während wir uns vor ihren inhärenten Risiken schützen? Können wir eine ausgewogene KI-Forschungsregulierung finden, die Innovation fördert und gleichzeitig gesellschaftliche Interessen schützt? Während wir tiefer in die Feinheiten der Regulierung von KI-Forschung eintauchen, wird es unerlässlich, die technologischen, gesellschaftlichen und wirtschaftlichen Auswirkungen einer KI-getriebenen Zukunft zu verstehen. 

Die Geschichte und der Verlauf der KI

Im Laufe der Geschichte brachte die Ankunft technologischer Innovationen eine Mischung aus Staunen, Vorfreude und oft spürbare Angst mit sich. Dieser Tanz zwischen Innovation und gesellschaftlicher Besorgnis ist nicht neu; es ist ein wiederkehrendes Muster, das wir bereits gesehen haben.

Im späten 18. Jahrhundert führte die Industrielle Revolution Maschinen ein, die die manuelle Arbeit und Herstellungsprozesse für immer veränderten, was zu weitverbreiteten Ängsten vor Arbeitsplatzverlust unter den Arbeitern führte. Die Einführung des Internets im späten 20. Jahrhundert war nicht anders, als die Menschen mit Bedenken hinsichtlich Privatsphäre, Sicherheit und der möglichen digitalen Kluft, die es verursachen könnte, kämpften. Die Einführung neuer Technologie weckt in jeder Ära öffentliche Bedenken hinsichtlich ihrer Implikationen und möglichen Missbrauchs.

Technologische Wunder

Blicken wir auf die heutige Zeit, steht die KI an der Spitze der zeitgenössischen technologischen Wunder. Ihre Leistungen im letzten Jahrzehnt allein waren nichts weniger als erstaunlich. Zum Beispiel haben Deep-Learning-Algorithmen menschliche Champions in Spielen besiegt, die einst als Bastionen menschlicher kognitiver Überlegenheit galten, vom Schachspiel und Jeopardy bis hin zu den komplexen Spielen Go und Poker. Darüber hinaus ist die Vision von autonomen Fahrzeugen von den Seiten von Science-Fiction-Romanen auf unsere Straßen gewandert, wobei autonome Fahrzeuge Millionen von Meilen in Testfahrten absolviert haben.

Technologische Singularität

Doch inmitten dieser monumentalen Errungenschaften liegt eine tiefgreifende und drohende Frage: Was passiert, wenn die Fähigkeiten der KI die ihrer menschlichen Schöpfer übertreffen? Diese Sorge führt uns zur Debatte über die „technologische Singularität“. Vom Mathematiker John von Neumann geprägt und vom Futuristen Ray Kurzweil populär gemacht, bezieht sich der Begriff auf eine hypothetische Zeit, in der das technologische Wachstum unkontrollierbar und irreversibel wird, was zu unvorhersehbaren Veränderungen der menschlichen Zivilisation führt. Im Herzen dieser Debatte steht die Idee, dass KI, sobald sie ein bestimmtes Maß an Raffinesse erreicht hat, sich autonom verbessern und replizieren kann, was potenziell die menschliche Intelligenz und Kontrolle übertreffen könnte. Vorhersagen darüber, wann oder ob eine solche Singularität eintreten wird, variieren stark, aber die bloße Möglichkeit löst intensive Diskussionen über den Verlauf der KI und die Zukunft der menschlich-KI-Koexistenz aus.

Bei der Verfolgung der Geschichte und des Verlaufs der KI wird deutlich, dass, obwohl sich die Technologie entwickelt hat, die grundlegenden menschlichen Bedenken konsistent geblieben sind. Während wir das transformative Potenzial der KI umarmen, müssen wir auch wachsam bleiben, ihre Herausforderungen angehen und sicherstellen, dass sie den menschlichen Fortschritt ergänzt, anstatt ihn zu behindern.

Die Gefahren unkontrollierter KI

Während wir KI tiefer in unsere Gesellschaften, Industrien und persönlichen Leben integrieren, treten wir auf einem empfindlichen Gleichgewicht zwischen der Nutzung ihres Potenzials und der Verwaltung ihrer Gefahren. Während sie zahlreiche Vorteile bietet, bringt das unkontrollierte Wachstum und die Bereitstellung von KI-Systemen erhebliche Risiken mit sich.

KI entwickelt sich zu einer unkontrollierbaren Entität

Unter diesen Bedenken ist die Idee, dass sich KI zu einer unkontrollierbaren Entität entwickelt; dies ist nicht nur ein Tropo der Science-Fiction, sondern eine echte Sorge, die von mehreren Leuchttürmen der Tech-Welt geteilt wird. Elon Musk, der Visionär hinter Tesla und SpaceX, hat bekanntermaßen vor KI gewarnt, die potenziell gefährlicher sein könnte als Nuklearwaffen. Solche Sentimente sind nicht isoliert. Der angesehene Akademiker Nick Bostrom von der Oxford University hat ausführlich über das Thema geschrieben und darauf hingewiesen, dass, sobald Superintelligenz-KI-Systeme Realität sind, sie so mächtig und autonom werden könnten, dass sie unkontrollierbar werden. Die zugrunde liegende Angst ist, dass, wenn die Entscheidungsfindung der KI unser Verständnis übersteigt oder beginnt, außerhalb vordefinierter Parameter zu operieren, die Auswirkungen weitreichend und unvorhersehbar sein könnten.

Potenzieller KI-Missbrauch in Verteidigung und Kriegsführung

Weitere Nahrung für diese Befürchtungen ist das potenzielle Missbrauch von KI in Verteidigung und Kriegsführung, insbesondere die Entwicklung autonomer Waffen. Dies sind Systeme, die, einmal aktiviert, Ziele auswählen und angreifen können, ohne weitere menschliche Intervention. Die ethischen und strategischen Herausforderungen, die solche Waffen mit sich bringen, sind immens. Würde eine KI-gesteuerte Drohne die richtigen moralischen und taktischen Entscheidungen in der Hitze des Gefechts treffen? Und wenn Fehler auftreten, wo liegt die Verantwortung?

Es gab einen globalen Aufschrei gegen die Bewaffnung von KI ohne angemessene Schutzmaßnahmen. Im Jahr 2015 forderte ein offener Brief, der auf der Internationalen Konferenz für Künstliche Intelligenz vorgestellt wurde, ein vorbeugendes Verbot von KI-Waffen, die „jenseits der sinnvollen menschlichen Kontrolle“ operieren. Dieser Brief war nicht nur eine Stimme in der Wildnis; er trug die Unterschriften von Denkerführern wie Stephen Hawking und Noam Chomsky sowie einer Reihe von KI- und Robotikforschern.

Diese internationalen Aufrufe zur Regulierung unterstreichen einen Konsens: Während KI verspricht, Sektoren von der Gesundheitsversorgung bis zum Transport zu revolutionieren, könnte unkontrollierte Entwicklung, insbesondere in sensiblen Bereichen wie der Verteidigung, den Weg für beispiellose Risiken ebnen. Während die Fähigkeiten der KI weiter wachsen, wird die Dringlichkeit, ihre verantwortungsvolle Entwicklung sicherzustellen, immer kritischer.

Die Herausforderungen breiter Regulierungen

Künstliche Intelligenz, mit ihrem sich ständig erweiternden Anwendungsbereich, ist ein Zeugnis menschlicher Erfindungsgabe. Der Fußabdruck der KI ist allgegenwärtig, von der Gesundheitsdiagnostik über Finanzprognosen und personalisierte Unterhaltung bis hin zum Klimamodelling. Diese Vielseitigkeit stellt jedoch eine formidable Herausforderung dar, wenn es um regulatorische Maßnahmen geht. Wie reguliert man eine Technologie mit einer so weiten und vielfältigen Präsenz?

Regulatorische Eignung

Die erste Herausforderung ist die inhärente Schwierigkeit, Regulierungen über die myriadischen Anwendungen der KI zu verallgemeinern. Die Einführung eines Einheitsrahmens für alle kann Innovation in Bereichen ersticken, in denen die Auswirkungen der KI harmlos oder überwiegend positiv sind, während er versagt, Bereiche angemessen zu adressieren, in denen der Missbrauch der Technologie katastrophale Folgen haben könnte. Zum Beispiel könnten die für einen KI-gesteuerten Chatbot, der Filme empfiehlt, geeigneten Regulierungen nicht für KI-Algorithmen geeignet sein, die medizinische Entscheidungen treffen oder am Aktienmarkt handeln.

Zeitabhängige Relevanz

Zusätzlich macht das Tempo, mit dem sich KI entwickelt, die Schaffung zeitnaher und relevanter Regulierungen zu einem beweglichen Ziel. Wenn ein regulatorischer Rahmen entworfen, debattiert und implementiert wird, hat sich die Technologie, die er regulieren soll, möglicherweise bereits weiterentwickelt oder transformiert, was die Regulierungen obsolet oder unpassend macht.

Übergeneralisierung von Risiken

Die Angelegenheit weiter komplizierend ist der Konsens unter Experten und Stakeholdern gegen die Übergeneralisierung der mit KI verbundenen Risiken. Während es unbestreitbar ist, dass einige KI-Anwendungen erhebliche ethische, gesellschaftliche und sogar existenzielle Risiken bergen, verbessern viele KI-Anwendungen das menschliche Wohlbefinden, steigern die Effizienz und lösen komplexe Herausforderungen. Die Verwechslung der Gefahren autonomer Waffen mit KI-gesteuerten Musikempfehlungen könnte zu regulatorischer Überdehnung führen, die potenziell vorteilhafte Innovationen behindert.

Während die Notwendigkeit von Regulierungen klar ist, erfordert ihre Ausarbeitung ein nuanciertes Verständnis der vielschichtigen Landschaft der KI. Effektive Gesetze müssen so anpassungsfähig und unterscheidend sein wie die Technologie, die sie überwachen sollen, um einen ausgewogenen Ansatz zu gewährleisten, der Innovation fördert und gleichzeitig gesellschaftliche Interessen schützt.

Die Arbeitslandschaft im KI-Zeitalter

Künstliche Intelligenz revolutioniert Industrien und formt die Arbeit in ihrem unerbittlichen Vormarsch. Die Konturen der Arbeitslandschaft verschieben sich und künden von beispiellosen Möglichkeiten und erheblichen Herausforderungen.

KI-Arbeitsverdrängung

Erstens war der Einfluss der KI auf verschiedene Sektoren tiefgreifend und expansiv. In den Fertigungshallen haben Roboter mit fortschrittlichen KI-Fähigkeiten die Abhängigkeit von menschlicher Arbeit reduziert und viele traditionelle Blue-Collar-Jobs obsolet gemacht. Aber die Kaskadeneffekte hören dort nicht auf. Banken- und Finanzsektoren, die einst auf riesige Armeen von White-Collar-Arbeitern für Back-Office-Funktionen angewiesen waren, wenden sich nun der KI für Aufgaben von der einfachen Dateneingabe bis hin zu komplexer Finanzmodellierung zu. Sogar Berufe, die als exklusives Domän hochgebildeter Menschen galten, wie Recht und Medizin, sind der Verdrängung durch KI ausgesetzt. Der Aufstieg von E-Discovery-Tools in der juristischen Forschung und diagnostischer KI im Gesundheitswesen sind Beispiele für diesen Trend.

Umfang und Geschwindigkeit der AI-Auswirkungen

Historisch gesehen gingen technologische Fortschritte immer mit Verschiebungen auf dem Arbeitsmarkt einher. Die Dampfmaschine, der Buchdruck und das Internet – jedes zu seiner Zeit – haben die bestehenden Berufsstrukturen disruptiv verändert. Gleichzeitig ebneten sie den Weg für neue Berufe und Branchen. Die einzigartige Herausforderung bei der Künstlichen Intelligenz (KI) liegt in ihrem Umfang und ihrer Geschwindigkeit. Während frühere technologische Innovationen vor allem manuelle Arbeit ersetzten oder repetitive Aufgaben automatisierten, hat das Potenzial der KI, kognitive Funktionen zu replizieren, was einen breiteren Spektrum an Jobs betrifft als je zuvor.

Dieser tiefgreifende Wandel bringt mehrere gesellschaftliche Implikationen mit sich. Eine erhebliche Verringerung der Arbeitsmöglichkeiten kann zu weitverbreiteten Unruhen führen, insbesondere wenn große Teile der Gesellschaft arbeitslos oder unterbeschäftigt sind. Wirtschaftliche Ungleichheiten, die bereits ein Anliegen darstellen, könnten sich verschärfen, da KI-gesteuerte Automatisierung das Wohlstand in den Händen derjenigen konzentrieren könnte, die diese Technologien besitzen und kontrollieren. Die daraus resultierende politische Fragmentierung sowie steigender Xenophobie und Polarisierung könnten Gesellschaften destabilisieren.

Neudefinition menschlicher Rollen

Ökonomen bieten hingegen ein breites Spektrum an Ansichten zur sich abzeichnenden Situation. Einige prognostizieren ein düsteres Bild, in dem die Schaffung von Arbeitsplätzen der Verdrängung weit hinterherhinkt, was zu struktureller Arbeitslosigkeit führt. Andere vertreten eine optimistischere Sichtweise und argumentieren, dass – genau wie bei vergangenen technologischen Innovationen – auch die KI neue Berufe hervorbringen wird. Sie betonen, dass Menschen, wenn routinemäßige Aufgaben automatisiert werden, Rollen finden werden, die einzigartig menschliche Fähigkeiten wie Kreativität, Empathie und komplexes Problemlösen nutzen.

Der Schlüssel liegt in der Antizipation und Anpassung an diese sich wandelnde Arbeitslandschaft. Während KI die Rollen in allen Branchen neu definiert, wird die Herausforderung für Gesellschaften darin bestehen, sicherzustellen, dass Individuen über die notwendigen Fähigkeiten und Kenntnisse verfügen, um in einer von KI dominierten Ära erfolgreich zu sein.

Mögliche Rahmenwerke für Regulierung

Während die Gesellschaft mit den tiefgreifenden Implikationen der Künstlichen Intelligenz ringt, wird der Ruf nach überzeugenden und differenzierten regulatorischen Rahmenwerken lauter. Das Gleichgewicht zwischen dem Versprechen KI-getriebener Fortschritte und potenziellen Fallstricken erfordert einen strategischen und vielschichtigen Ansatz. Mehrere mögliche regulatorische Strukturen und Mechanismen sind entstanden, die den vielfältigen Anwendungen der KI gerecht werden.

Gezielte Ansätze

Anstatt die gesamte KI unter einen einzigen regulatorischen Schirm zu stellen, konzentriert sich ein pragmatischerer Ansatz auf spezifische, hochriskante KI-Anwendungen. Ein herausragendes Beispiel ist der Bereich der autonomen Waffensysteme. Die inhärenten Gefahren von Maschinen, die unabhängig entscheiden können, wann und wen sie angreifen, haben zu globalen Forderungen nach strenger Regulierung geführt. Diese Haltung wurde in einem offenen Brief, der auf der Internationalen Konferenz für Künstliche Intelligenz im Jahr 2015 vorgestellt wurde, deutlich, in dem eine Gruppe von KI-Experten, Aktivisten und führenden Köpfen die Vereinten Nationen aufforderte, den Einsatz von KI-Waffen, die außerhalb einer sinnvollen menschlichen Kontrolle operieren, zu verbieten. Solche gezielten Regulierungen könnten als Modell für andere kritische KI-Anwendungen dienen und sicherstellen, dass hochriskante Bereiche einer strengen Aufsicht unterliegen, ohne Innovationen in weniger sensiblen Bereichen zu ersticken.

Einführung von KI-Aufsicht („AI Guardians“)

Mit der zunehmenden Integration von KI in kritische Sektoren hat die Idee der KI-Aufsicht oder „KI-Wächter“ („AI Guardians“) an Boden gewonnen. Dabei handelt es sich um digitale Aufseher, die sicherstellen, dass KI-Operationen innerhalb vordefinierter Grenzen bleiben. Ein Beispiel hierfür ist der Bereich der autonomen Fahrzeuge. Während KI-gesteuerte Autos aus Straßenerfahrungen lernen und sich anpassen, könnte ein Überwachungsmechanismus sicherstellen, dass sie unbedingte Regeln einhalten, wie etwa die Einhaltung von Geschwindigkeitsbegrenzungen. Der tragische Vorfall mit einem Tesla in Florida, bei dem das Fahrzeug die Geschwindigkeitsbegrenzung überschritt, unterstreicht die Bedeutung einer solchen Aufsicht. Diese KI-Wächter fungieren als Echtzeit-Kontrolle, die sicherstellt, dass KI-Systeme nicht von gesellschaftlichen Normen oder Sicherheitsparametern abweichen, während sie lernen und sich anpassen.

Umgang mit der Intransparenz von KI-Algorithmen

Eine der inhärenten Herausforderungen bei hochentwickelten KI-Systemen ist deren Intransparenz. Da KI-Algorithmen immer komplexer werden, fällt es selbst Experten zunehmend schwer, ihre Entscheidungsprozesse nachzuvollziehen. Die „Black-Box“-Natur der KI stellt erhebliche Probleme für Aufsicht und Rechenschaftspflicht dar. Traditionelle menschliche Aufseher, die nicht durch Technologie unterstützt werden, könnten es nahezu unmöglich finden, die von KI getroffenen Entscheidungen zu überwachen und zu verstehen. KI-gestützte Überwachungssysteme könnten diese Lücke schließen. Solche Systeme, die darauf ausgelegt sind, andere KI-Algorithmen zu interpretieren und zu überwachen, könnten Transparenz gewährleisten und die Einhaltung ethischer und operationeller Standards sicherstellen.

Während wir in das KI-Zeitalter eintreten, wird die Notwendigkeit durchdachter und anpassungsfähiger regulatorischer Rahmenwerke immer dringender. Durch die Behandlung spezifischer Hochrisikobereiche, die Einführung von Echtzeit-Überwachungsmechanismen und die Sicherstellung von Transparenz bei KI-Entscheidungen können wir die Kraft der KI nutzen, während wir gesellschaftliche Interessen schützen.

Wirtschaftliche Interventionen

Die wirtschaftlichen Auswirkungen des Aufstiegs der KI sind tiefgreifend und verändern Arbeitsmärkte, disruptieren Branchen und fordern den gesellschaftlichen Gefüge selbst heraus. Als Reaktion auf diese seismischen Verschiebungen besteht ein dringender Bedarf an robusten wirtschaftlichen Interventionen. Diese Interventionen dienen nicht nur dazu, die Schocks der Arbeitsplatzverdrängung abzufedern, sondern auch die Werte der Gesellschaft neu auszurichten und auf eine radikal andere Zukunft vorzubereiten.

Der Vorschlag einer Kommission für das Cyber-Zeitalter

Eine unmittelbare Lösung für die sozioökonomischen Herausforderungen der KI ist die Schaffung einer dedizierten Aufsichtsbehörde. Eine vorgeschlagene „Kommission für das Cyber-Zeitalter“, die sich an der 9/11-Kommission orientiert, könnte damit beauftragt werden, die Auswirkungen der KI auf die Wirtschaft umfassend zu untersuchen. Durch die Einbeziehung einer vielfältigen Gruppe von Interessenträgern – von politischen Führern und Wirtschaftsmagnaten bis hin zu Arbeitsvertretern und KI-Experten – könnte eine solche Kommission die nationale Politikgestaltung lenken und sicherstellen, dass sie fundiert, ausgewogen und zukunftsorientiert ist.

Mögliche Lösungen

Umschulungsprogramme

Historisch gesehen gingen Branchenwechsel oft mit entsprechenden Umschulungsprogrammen einher, um die Belegschaft mit neuen Fähigkeiten auszustatten. Im KI-Zeitalter werden solche Programme von entscheidender Bedeutung sein, um sicherzustellen, dass durch Automatisierung verdrängte Arbeitnehmer in neue Rollen wechseln können, in denen menschliche Fähigkeiten unersetzlich sind.

Infrastrukturinvestitionen

Bedeutende Investitionen in die Infrastruktur sind eine Möglichkeit, das Wirtschaftswachstum anzukurbeln und KI-bedingte Störungen zu bewältigen. Der Bau von Straßen, Brücken und öffentlichen Einrichtungen schafft sofortige Arbeitsmöglichkeiten und legt den Grundstein für zukünftigen wirtschaftlichen Wohlstand.

Garantie eines Grundeinkommens

Eine radikale, jedoch zunehmend diskutierte Lösung ist die Idee eines universellen Grundeinkommens (UBI). Da KI die allgemeine Verfügbarkeit von Arbeitsplätzen potenziell reduziert, könnte ein UBI sicherstellen, dass alle Bürger ein soziales Netz haben, wodurch wirtschaftliche Ungleichheiten verringert werden.

Kürzere Arbeitswochen und Überstundensteuern

Da die Produktivität durch KI gesteigert wird, gibt es Argumente für die Umverteilung der Arbeit. Kürzere Arbeitswochen oder reduzierte tägliche Arbeitszeiten könnten dazu beitragen, Arbeitsplätze breiter zu verteilen. Ebenso könnte die Besteuerung von Unternehmen, die stark auf Überstunden zurückgreifen, Anreize zur Einstellung weiterer Mitarbeiter schaffen.

Verschiebung gesellschaftlicher Werte

Über politische Interventionen hinaus könnte ein tieferer gesellschaftlicher Wandel notwendig sein. Da KI die Betonung auf die materielle Produktion verringert, könnte die Gesellschaft dazu übergehen, nicht-materielle Bestrebungen stärker zu schätzen – wie Gemeinschaftsengagement, Kunst, Freizeit und spirituelles Wachstum. Ein solcher Wandel könnte den Druck durch Arbeitsplatzverdrängung reduzieren.

Neue Besteuerungsmethoden

Die wirtschaftlichen Vorteile KI-getriebener Technologien müssen gerechter verteilt werden, um die von ihnen verursachten wirtschaftlichen Störungen auszugleichen. Die Einführung progressiver Besteuerungsmethoden, wie einer Mehrwert- oder CO2-Steuer oder sogar Abgaben auf KI-gesteuerte Transaktionen, könnte das Wohlstand gleichmäßiger umverteilen und eine fairere Gesellschaft gewährleisten.

Zwar stellen die wirtschaftlichen Implikationen der KI erhebliche Herausforderungen dar, sie bieten jedoch auch die Gelegenheit, gesellschaftliche Strukturen, Wirtschaftsmodelle und individuelle Prioritäten neu zu überdenken. Durch proaktive Interventionen auf politischer und gesellschaftlicher Ebene kann das KI-Zeitalter zu einer Zeit des gemeinsamen Wohlstands und des ganzheitlichen Wachstums werden.

Fazit

Mit dem Anbruch des Zeitalters der Künstlichen Intelligenz spürt man ihre Auswirkungen in jedem Aspekt der Gesellschaft – von unseren Volkswirtschaften und Arbeitsmärkten bis hin zu unseren moralischen Rahmenwerken und täglichen Lebensstilen. Während die Versprechen der KI vast sind, von Durchbrüchen in der Gesundheitsversorgung bis hin zu monumentalen Fortschritten in der Forschung, sind die Herausforderungen, die sie mit sich bringt, ebenso bedeutend. Sie fordert uns auf, unsere gesellschaftlichen Strukturen neu zu bewerten, unsere regulatorischen Rahmenwerke zu innovieren und unsere Wirtschaftsmodelle für eine Zukunft anzupassen, in der Maschinen menschliche Fähigkeiten in vielen Bereichen übertreffen könnten.

Doch in diesen Herausforderungen liegen immense Möglichkeiten. Wir können diese transformative Ära mit Voraussicht und Weisheit navigieren, indem wir offene Dialoge fördern, gezielte Interventionen priorisieren und eine Kultur der Anpassungsfähigkeit und des lebenslangen Lernens fördern. Während wir am Rand dieser technologischen Revolution stehen, liegt die Verantwortung bei uns, sicherzustellen, dass der Aufstieg der KI mit unseren gemeinsamen menschlichen Werten übereinstimmt und eine harmonische Koexistenz sowie eine Zukunft gewährleistet, in der Technologie das menschliche Potenzial verstärkt, anstatt es zu mindern.