...

Ein System, das klüger ist als alle Menschen zusammen

In seinem Thriller „Tyrannei des Schmetterlings“ geht es um eines der brisanten Themen unserer Zeit: die Künstliche Intelligenz. Hier schreibt Bestseller-Autor Frank Schätzing über die Technologie, die von allein schlauer wird – und irgendwann vielleicht zu schlau?

Lesedauer: 10 Minuten
W

enn man sich mit dem Thema „Künstliche Intelligenz“ beschäftigt, erfährt man schnell: Spezialisierte KI umgibt uns schon im Alltag, vom Schach- und Go-Computer übers Navi bis hin zu Spracherkennungsprogrammen und Assistenzsystemen. In der medizinischen Diagnostik und Therapeutik ist KI ganz vorne, treffsicherer als die meisten Ärzte. Jedes iPhone steckt voller KI-Systeme, genannt Apps. Bilderkennungs-KI wird erfolgreich von der Polizei genutzt, Börsenentwicklungen von KI-Systemen verlässlicher prognostiziert als von jedem Broker. YouTube lernt blitzschnell, was User mögen, und macht Angebote. Web-Plattformen für Handel und Kommunikation vernetzen Anbieter und Kunden hocheffizient. Selbstfahrende Autos, Service-KIs in allen Bereichen, intelligente Stromnetze, all das haben wir bereits und wird unseren Alltag komplett durchdringen.

Zur Person

Frank Schätzing, 63, ist einer der erfolgreichsten deutschen Schriftsteller. Sein 2004 veröffentlichter Roman „Der Schwarm“ erzielte eine Auflage von 4,5 Millionen Exemplaren und wurde in 27 Sprachen übersetzt. Zuletzt erschien 2018 der Thriller „Die Tyrannei des Schmetterlings“ (Kiepenheuer & Witsch, 26 Euro). Schätzing lebt in Köln.

Mittelfristig kann der Bau einer allgemeinen KI, also eines universal intelligenten Systems, die Menschheit enorm voranbringen – vor allem, wenn es durch Quantencomputing geschieht. All das verspricht bahnbrechende Erkenntnisse über die Welt und heute noch nicht vorstellbare neue Technologien.

Die zwei Probleme eines Netzwerks: Zielsetzung und Kontrolle

Es gibt zwei grundlegende Probleme bei jedem selbstlernenden, neuronalen Netzwerk: Zielsetzung und Kontrolle. Welches Ziel soll die KI anstreben, und wie gewährleiste ich, dass sie dabei nicht zu unserem Schaden agiert – und sei es nur aufgrund eines algorithmischen Missverständnisses?

Ein simples Beispiel: Angenommen, wir geben der KI das Ziel, alle Menschen von ihren Sorgen zu befreien. Große Aufgabe, hat noch keiner geschafft. Vielleicht gelingt es der Maschine. Dann darf ich sie einerseits nicht zu sehr in ihrer Entfaltung einschränken, weil sie sonst keine grundlegend neuen Lösungen finden wird, muss aber andererseits durch ständige Systemkontrolle sicherstellen, dass sie nicht auf die Idee kommt, alle Menschen einfach zu töten – womit sie ihren Auftrag erfüllt hätte.

Sobald Maschinen aus eigener Kraft so klug werden, dass nur noch sie in der Lage sind, bessere Versionen ihrer selbst zu bauen, werden sie zur Black Box – dann können wir keine eindeutigen Aussagen mehr über ihre Fähigkeiten treffen und was sie damit anstellen werden. Wir müssen also sicherstellen, dass wir beides – Intelligenzsteigerung und Kontrolle – jederzeit gewährleisten können.

Frank Schätzing – wie die Zukunft von Versicherungen aussieht

Wir werden „Auch Versicherungen werden sich neu erfinden müssen, um der künftigen Bedürfnislage gerecht zu werden. Natürliche und technologische Prozesse werden unwägbarer. Ich glaube, Versicherungen müssen sich weit mehr in der Erstellung von Szenarien üben, sie müssen sich zu aktiven Mitgestaltern der Zukunft entwickeln und vertrauenswürdige Partner sein in einer Zeit, da wir uns ständig selbst überholen und ständig vom Unerwartetem überholt werden – alleine die Klärung der Schuldfrage in Zeiten intelligenter, autonom entscheidender Maschinen erfordert völlig neue Denkansätze.“

Es gibt in der KI-Forschung den Begriff des Takeoffs – die Intelligenzexplosion eines Systems. Das heißt, das System wird schlagartig klüger als alle Menschen zusammen. Nicht im eigentlichen Sinne von weise – wahrscheinlich wird es vorerst nicht über Bewusstsein verfügen, also gar nicht wissen, dass es existiert –, sondern eher dahingehend, dass es alle Daten und laufenden Beobachtungen zu einem hochkomplexen Weltbild verknüpft und daraus Schlussfolgerungen und Handlungsoptionen generiert, die unsere eigenen Visionen übersteigen.

Wenn KI den Menschen überflügelt

Diese Entwicklung können wir nicht verhindern, wenn wir diese Technologie weiter verfolgen. Höherentwicklung ist zwangsläufig. Der Punkt ist, lange vor dem Takeoff werden wir wahrscheinlich schon nicht mehr wissen, was die KI weiß. Vielleicht glauben wir, dass sie längst über Selbstbewusstsein und echte Empathie verfügt, obwohl sie beides nur perfekt simuliert. Vielleicht ist sie aber auch schon ihrer selbst bewusst geworden, und wir haben es schlicht nicht gemerkt.

Es geht eigentlich weniger darum, diese rapide Intelligenzerweiterung der Maschine zu verhindern, sondern hier und heute sicherzustellen, dass sie nach dem Takeoff ein machtvoller Partner bleiben wird, der seine Fähigkeiten in unseren Dienst stellt. Die Anforderungen, was Kontrollmechanismen betrifft, sind entsprechend enorm.

Warum KI die letzte Erfindung sein könnte, die der Mensch erfunden hat

Die Künstliche Intelligenz ist derzeit das interessanteste Forschungsfeld überhaupt, weil es die erste Technologie ist, die aus eigener Kraft klüger wird.

Ein denkendes System. Die Dampfmaschine – so revolutionär sie war – konnte nie etwas anderes sein als eine Dampfmaschine. Eine Atombombe – bei aller Zerstörungskraft – kann nichts anderes sein als was sie ist und nichts zerstören, wenn wir nicht den Knopf drücken.

Systeme hingegen, die unentwegt sämtliche erfassbaren Daten in einen hyperkomplexen Kontext überführen und dabei auch noch exponentiell dazulernen – sprich, ihr Wissen multipliziert sich, während er sich beim Menschen eher addiert –, könnten, wie es so schön heißt, die letzte Erfindung sein, die der Mensch je machen muss. Ab einem gewissen Punkt bedürfen sie unserer nicht mehr.

Schöner wäre natürlich, wenn Mensch und Maschine zu beiderseitigem Nutzen koexistieren würden.

Schauen Sie sich hier den Zukunftskongress der Gothaer mit Herrn Frank Schätzing an.

Der Themenwecker - meldet, wenn es etwas Neues gibt.

Die aktuellen Artikel der e-GoNews direkt in Ihr Postfach: Wir informieren Sie per Mail immer dann, wenn eine spannende Geschichte zu einem relevanten Thema in unserem Online-Magazin erschienen ist. Einfach Ihre E-Mail-Adresse eingeben, Datenschutzhäkchen setzen und Anmeldung per Mail bestätigen.

Ich habe die Datenschutzerklärung der Gothaer Versicherungsbank VVaG gelesen und erkläre hiermit mein Einverständnis.

Schreiben Sie uns

Hat Ihnen der Beitrag gefallen? Haben Sie Fragen?

    Ich habe die Datenschutzerklärung gelesen und erkläre mich mit der Verarbeitung meiner Daten einverstanden.


    ...

    Besuchen Sie unser GoNews-Archiv!

    Hier finden Sie zum Download sämtliche bisherigen Ausgaben der GoNews.

    Zum Archiv

    Das könnte Sie auch interessieren