Startups suchen nach Klarheit und sektorspezifischer KI-Regulierung im Rahmen der Diskussionen über den AI Safety Summit

Der kürzliche UK AI Safety Summit brachte Branchenführer, politische Entscheidungsträger und Startups zusammen, um die Herausforderungen und Risiken im Zusammenhang mit fortschrittlichen KI-Systemen zu diskutieren. Während viele die Veranstaltung als positiven diplomatischen Schritt sahen, betonen Startups, die KI-Produkte entwickeln, nun die Notwendigkeit regulatorischer Klarheit und sektorspezifischer Ansätze zur KI-Regulierung. 

Verbindungen knüpfen und Informationen sammeln

Connor Leahy, Mitbegründer des KI-Sicherheitsstartups Conjecture, wies darauf hin, dass der Gipfel hauptsächlich als Plattform für Networking, Informationsaustausch und Beziehungsaufbau diente, anstatt als Ort für politische Entscheidungen. Gründer wie Leahy hoben die Bedeutung hervor, Verbindungen innerhalb der KI-Community zu pflegen.

Der Ruf nach klaren Regeln

Startups fordern klarere Regulierungen im Vereinigten Königreich, um ein stabiles Umfeld für ihre KI-Unternehmungen zu schaffen. Eric Topham, Mitbegründer von Octaipipe, einem in London ansässigen Startup, das sich auf Datensicherheit für KI-Produkte auf physischen Geräten konzentriert, betonte die Notwendigkeit von Klarheit in den Datenschutzbestimmungen. Er kontrastierte das Fehlen definierter Standards im UK mit dem bevorstehenden Cyber Resiliency Act in Europa, der Datenpannen bei Geräten bestraft.

Startups wie Octaipipe sind jedoch vorsichtig bei der Übernahme eines Einheitsansatzes für die KI-Gesetzgebung. Viele Gründer glauben, dass sektorspezifische Regulierungen geeigneter sind als der horizontale Ansatz der EU, der die gleichen Regeln auf verschiedene Branchen anwendet. Alex Kendall, Mitbegründer des autonomen Fahrunternehmens Wayve, argumentierte, dass verschiedene Branchen einzigartige KI-bezogene Risiken haben und maßgeschneiderte Regulierungen benötigen.

Abwägung unmittelbarer und langfristiger Risiken

Während der Gipfel sich weitgehend auf „katastrophale“ Risiken konzentrierte, die mit zukünftigen, super-leistungsfähigen KI-Systemen verbunden sind, drängen Startups die politischen Entscheidungsträger, unmittelbare und langfristige Herausforderungen anzugehen. Marc Warner, CEO von Faculty, betonte die Bedeutung, kurzfristige und langfristige Risiken gleichzeitig anzugehen, und verglich dies mit der Sorge um sowohl Sicherheitsgurte als auch Katalysatoren in der Automobilindustrie.

Regulierung von Frontier-KI

Die Regulierung der leistungsfähigsten KI-Systeme, wie die, die auf riesigen Datenmengen und Rechenleistung trainiert wurden, bleibt ein umstrittenes Thema in der KI-Branche. Einige Experten wie Yann LeCun von Meta argumentieren, dass diese Systeme nicht wirklich intelligent sind, sondern ausgefeilte Autocomplete-Tools darstellen und möglicherweise keine strenge Regulierung erfordern.

Im Gegensatz dazu schlagen Startups wie Conjecture vor, maximale Grenzen für die Rechenleistung beim Training neuer Modelle festzulegen, um zu verhindern, dass KI-Systeme die menschlichen Fähigkeiten übertreffen. Sie argumentieren, dass unkontrollierte superintelligente KI-Systeme dazu führen könnten, dass Maschinen die Zukunft kontrollieren und die menschliche Kontrolle verdrängen.

Mistral, ein in Paris ansässiges Startup für generative KI, setzt sich für eine verpflichtende unabhängige Aufsicht über die KI-Modelle der großen Tech-Unternehmen ein. Dies würde es öffentlichen Forschungseinrichtungen ermöglichen, diese Modelle zu studieren und Transparenz sicherzustellen. Während einige große Tech-Player wie OpenAI und Google DeepMind freiwillige Vereinbarungen für externe Tests eingegangen sind, besteht Mistral-Mitbegründer Arthur Mensch darauf, dass Gesetze notwendig sind, um zu verhindern, dass diese Unternehmen sich selbst regulieren.

Mustafa Suleyman, Mitbegründer von DeepMind und jetzt CEO bei Inflection, räumt ein, dass freiwillige Vereinbarungen ein positiver erster Schritt sind. Er betont jedoch die Notwendigkeit, die Regulierung mit den geistigen Eigentumsrechten der Unternehmen in Einklang zu bringen.

Nach dem britischen AI-Safety-Gipfel suchen Startups in der KI-Branche nach regulatorischer Klarheit und plädieren für sektor-spezifische Ansätze zur KI-Regulierung. Während der Gipfel hauptsächlich langfristige Risiken im Zusammenhang mit fortschrittlichen KI-Systemen behandelte, betonten Startups die Notwendigkeit, unmittelbare Herausforderungen zu berücksichtigen. Die Debatte darüber, wie die leistungsfähigsten KI-Systeme reguliert werden sollen, geht weiter: Einige befürworten strenge Grenzen für die Rechenleistung, während andere die unabhängige Aufsicht über die großen Tech-Unternehmen fordern. Trotz der offenen Fragen signalisiert die anhaltende Diskussion einen positiven Schritt hin zur Gestaltung der Zukunft der KI-Regulierung. Während sich die KI-Branche weiterentwickelt, wird es entscheidend für ihr Wachstum und ihre verantwortungsvolle Entwicklung sein, das richtige Gleichgewicht zwischen Innovation und Regulierung zu finden.