Ex-Google-Manager: KI könnte tödliches Virus kreieren

Horrorszenarien über künstliche Intelligenz und Maschinen, die die Welt übernehmen, sind nichts Neues, kommen in den meisten Fällen aber eher von fachfremden Menschen oder Verschwörungstheoretikern. Mustafa Suleyman zählt eher nicht in diese Kategorien. Er hat früher bei Google gearbeitet und ist Co-Gründer des KI-Projekts Google Deepmind. Im Podcast „The Diary Of A CEO“ zeichnet er nun ein düsteres Zukunftsszenario, denn er geht davon aus, dass KI im schlimmsten Fall für eine tödliche Seuche sorgen könnte.

Konkret sagt er: „Das düsterste Szenario ist, dass Menschen mit Krankheitserregern experimentieren, mit synthetischen Erregern, die versehentlich oder absichtlich übertragbar sein könnten.“ KI-Tools könnten demnach dazu genutzt werden, Krankheitserreger besonders effektiv oder resistent zu machen, ähnlich, wie mit ihnen etwa Arbeitsabläufe oder Programmcode optimiert wird. Die Corona-Pandemie hat gezeigt: Auf ein plötzlich auftretendes, gefährliches Virus ist die Menschheit nur unzureichend vorbereitet.

„Wir arbeiten mit gefährlichen Dingen“

Immer mehr Menschen nutzen KI-Tools in ihrer Freizeit oder beruflich und das schließe auch Menschen ein, die nichts Gutes im Schilde führen. Es gebe wenig, was man tun könnte, um Menschen daran zu hindern, Viren gentechnisch zu erzeugen, die eine Gefahr für die Menschheit darstellen könnten. Dies müsse nicht einmal absichtlich passieren. „Wir arbeiten mit gefährlichen Dingen. Wir können nicht zulassen, dass jeder Zugang zu ihnen hat. Wir müssen einschränken, wer die KI-Software, die Cloud-Systeme und sogar einige der biologischen Materialien nutzen darf“, fordert Suleyman.

Der Deepmind-Co-Gründer fordert daher, dass etwa die Nato eine Eindämmungsstrategie für KI entwickeln müsse, ähnlich wie für Nuklearwaffen. „Wir müssen den Zugang zu den Tools einschränken und auch das Know-how, um diese Art von Experimenten durchzuführen.“ Noch im September wird Mustafa Suleyman laut Futurism an einem KI-Gipfel in Washington teilnehmen, an dem auch Tech-Größen wie Mark Zuckerberg, Sundar Pichai, Elon Musk oder OpenAI-Chef Sam Altman teilnehmen werden. Ob Suleymans Horrorszenario dabei auf taube oder offene Ohren stößt, wird sich zeigen.