Musk und andere Tech-Größen fordern einen Entwicklungsstopp von KI

Generative künstliche Intelligenzen wie ChatGPT sind ein Trend, der die Welt im Sturm erobert. Allein ChatGPT ist seit seiner Veröffentlichung im vergangenen Herbst mit jeder neuen Version immer mächtiger geworden. Den Chancen, die die Technologie bietet, stehen aber Risiken gegenüber und davor warnen nun namhafte Tech-Größen. Mit Tesla-Chef Elon Musk und Apple-Mitgründer Steve Wozniak haben Informatiker, KI-Experten und andere Fachleute nun einen offenen Brief veröffentlicht, in dem sie fordern, die Entwicklung großer KI-Systeme sofort zu unterbrechen.

„KI-Systeme mit menschlich-kompetitiver Intelligenz können tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen“, heißt es in dem offenen Brief, der mittlerweile knapp 1.500 Unterzeichner hat (Stand: 30.03.2023). Aktuelle KI-Systeme würden bei gewissen Aufgaben schon jetzt ein menschenähnliches Level erreichen und man müsse sich fragen: „Sollten wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten überfluten? Sollten wir alle Arbeitsplätze automatisieren? Sollten wir nicht-menschliche Intelligenzen entwickeln, die uns irgendwann zahlenmäßig überlegen sind, uns überlisten, überflüssig machen und ersetzen könnten? Sollen wir den Verlust der Kontrolle über unsere Zivilisation riskieren?“

Unterbrechung von sechs Monaten

Derartige Fragen sollten nicht an nicht gewählte Tech-Unternehmen delegiert werden. Mächtige KI-Systeme sollten nur dann entwickelt werden, wenn man sicher sein könne, dass ihr Einfluss positiv und ihre Risiken handhabbar seien. Daher fordern die Unterzeichner KI-Entwickler auf, das Training von KI-Systemen, die noch mächtiger als ChatGPT-4 sind, für mindestens sechs Monate zu pausieren. Die Pause sollte öffentlich überprüfbar sein. „Wenn eine solche Pause nicht schnell erreicht werden kann, sollten die Regierungen eingreifen und ein Moratorium einführen.“

Diese Pause sollte genutzt werden, um universelle Sicherheitsprotokolle für die KI-Entwicklung zu entwickeln und zu implementieren. Zudem müsse die Forschung rigoros von unabhängigen Fachleuten überwacht werden. „Diese Protokolle sollten gewährleisten, dass die Systeme, die sie befolgen, zweifelsfrei sicher sind.“

Kein genereller Entwicklungsstopp

Die Autoren betonen aber, dass sie keinen generellen Stopp der Entwicklung von KI-Systemen wollen. Es gehe darum, lediglich „den gefährlichen Wettlauf zu immer größeren, unvorhersehbaren Black-Box-Modellen mit emergenten Fähigkeiten“ zu beenden. Die Forschung sollte sich darauf konzentrieren, „die heutigen leistungsfähigen, hochmodernen Systeme genauer, sicherer, interpretierbarer, transparenter, robuster, abgestimmter, vertrauenswürdiger und loyaler zu machen.“

KI-Entwickler sollten mit politischen Entscheidungsträgern zusammenarbeiten, um etwa neue und kompetente Regulierungsbehörden zu gründen, die sich ausschließlich mit KI befassen. Zudem müssten neue KI-Systeme überwacht und ein Prüfungs- und Zertifizierungssystem eingeführt werden. Auch Fragen der Haftung für durch KI verursachte Schäden müssen geklärt werden.

Die Autoren des offenen Briefes schließen mit den Worten: „Die Gesellschaft hat bei anderen Technologien mit potenziell katastrophalen Auswirkungen auf die Gesellschaft eine Pause eingelegt. Das können wir auch hier tun. Genießen wir einen langen KI-Sommer und stürzen wir uns nicht unvorbereitet in den Herbst.“