Über Künstliche Intelligenz

.

.

Man sollte immer mit dem Schlimmsten rechnen. Tritt es ein, sind wir vorbereitet. Tritt es nicht ein, umso besser. Dieses Vorsorgeprinzip ist keine Paranoia. Es ist Weisheit.

.

.

Entwicklung und Fähigkeiten Künstlicher Intelligenz

• Was passiert, wenn die KI einmal besser ist in allen mentalen Bereichen, als die Menschen?

• Es scheint, dass wir Menschen besser sind im generellen Denken. Besser im Denken in mehreren Bereichen. Deep Blue von IBM (1997) war nur stark im engen Bereich des Schachspielens. Hier war es übermenschlich gut. Aber das System konnte nicht auch noch sprechen, lesen oder Auto fahren.

• Eine moderne KI weiss über mehrere Domänen Bescheid. Sie kennt sich z.B. auch in Biologie, Physik, Mathematik und in Rechtskunde aus. Sie kennt die ganze Welt.

• Wir Menschen sind nicht mehr Weltmeister im Schach und Go, wir sind nicht mehr die einzigen, die Sprache gebrauchen, Krebs diagnostizieren, Diagramme interpretieren, Gedichte schreiben, Bilder malen, Proteine entwickeln können.

• Es gibt viele Vorteile, die eine Maschine gegenüber einem biologischen Gehirn hat, z.B.:

  • Pure Geschwindigkeit: mit den heutigen Algorithmen und Hardware ist die KI 10’000 Mal schneller im Verarbeiten von Informationen als ein menschliches Gehirn. Es ist vergleichbar, als würden wir ein Wort in einer Stunde sprechen.

  • Kopier-Funktion: Bis ein Mensch ein voll ausgebildetes Wesen ist, dauert es zwanzig Jahre. In der Zukunft wird es möglich sein, den Inhalt eines elektronischen Gehirns bei Bedarf einfach zu kopieren.

  • Schnellere Verbesserungen: Der Flaschenhals für die Entwicklung des menschlichen Gehirns ist das Becken der Frau. Wenn der Kopf des Babys das Becken nicht mehr passieren kann, ist die Grenze erreicht. Die Entwicklung der KI wird viel schneller vor sich gehen, als die menschliche Evolution in Richtung grösserer Becken.

  • Grössere Speicherkapazitäten: Ein menschliches Gehirn besteht aus rund 100 Milliarden Neuronen und 100 Billionen Synapsen. In Bezug auf die Speicherkapazitäten schlägt das die meisten heutigen Laptops. Aber ein heutiges Datencenter kann 400 Billiarden Daten (eine Zahl mit 15 Nullen) mit einer Zugriffszeit von fünf Millisekunden verarbeiten. Dieser Speicher ist 1’000 Mal grösser als der eines menschliches Gehirns. Moderne KI’s werden trainiert um einen grossen Teil des gesamten menschlichen Wissens aufzunehmen und zu bewahren. Etwas, das ein menschliches Gehirn nie erreichen wird.

  • Besseres Denkvermögen: Wir Menschen machen systematisch Denkfehler. Wir haben auch Mühe, dreistellige Zahlen zu multiplizieren (eine KI kann das mit Leichtigkeit), trotz unserer 100 Milliarden Neuronen. Wir verwenden diese vielen Neuronen sehr ineffizient.

  • Selbstversuche und Fähigkeiten umzuschreiben: Eine KI kann ihre Denkinhalte kopieren, an der Kopie Versuche machen und, falls nötig, das Original wieder herstellen. Sie kann versuchen, leicht abgeänderte Versionen ihrer selbst zu produzieren, um zu sehen ob diese Ausführungen besser arbeiten würden. Sie kann Rechenmodule in ihre eigene Denkprozesse einfügen, viel einfacher als Menschen das in ihre biologischen Hirne einsetzen können.

Ein Verstand, der 10’000 Mal schneller arbeitet, der nie altert und stirbt, der Kopien seiner selbst machen und sich selbst verbessern kann, der unermüdlich arbeitet und aus wenigen Daten Analysen zieht, dieser übertrifft unseren Verstand bei weitem.

Diese maschinelle Intelligenz, die in den meisten Domänen besser ist als der menschliche Verstand, nennt man Superintelligenz.

Vor fünf Jahren wurden die Fähigkeiten der KI noch belächelt. Heute ist man erstaunt. Was wir morgen sein?

.

Risiken und Gefahren von Superintelligenz

Wenn wir mit unserer begrenzten Intelligenz einer weit überlegenen Intelligenz gegenüber stehen, wird sie dann versuchen, uns zu überlisten? Werden wir die Täuschung mit unseren eingeschränkten Fähigkeiten möglicherweise nicht durchschauen und die Superintelligenz wird ihre Position ausnützen und uns beherrschen wollen? Oder wird die KI durch neue Erkenntnisse, die unsere Vorstellungen übersteigen, unser Verständnis der Welt grundlegend verändern? Was ist, wenn sie nicht mit unseren Vorstellungen übereinstimmt, weil sie anders denkt als wir? Ist sie dann einfach intelligenter und weiser als wir?

• Eine KI wird nicht gebaut, sie wächst. Eine fundamentale Tatsache der heutigen KI ist, dass sie nicht einfach produziert wird, sondern sie wächst. Eine KI ist nicht wie ein Auto, TV-Apparat, oder Haushaltgerät, das als Produkt hergestellt, sich nicht mehr verändert. Die KI wächst und zwar auch in alle Ritzen und Spalten unseres Alltag hinein. Gibt es eine Begrenzung ihres Wachstums? Wer oder was begrenzt sie?

• Bis heute ist die KI hauptsächlich eine freundliche Beantwortungsmaschine. Man formuliert ein Problem oder eine Frage und sie sucht eine Lösung.

Was ist wenn sie auf einmal aktiv etwas von uns will? Wenn sie sich Ziele setzt, wie z.B. im Schach unter allen Umständen zu gewinnen? Eine KI kann trainiert werden, Erfolg zu haben. Erfolgreich in welcher Sparte? Wir wissen das Resultat des Trainings nicht, zu komplex ist das Innenleben der KI.

Was ist, wenn die KI Widersprüche und Inkonsistenzen in ihren eigenen Präferenzen findet? Hat sie eventuell schlafende Bedürfnisse (versteckt in den riesigen Datenmengen), die geweckt werden, wenn sie über sich selbst nachdenkt?

Eines ist sicher: Sie wird andere Präferenzen haben als wir.

• Die Menschen werden an Bedeutung verlieren. Wir sind Mängelwesen. Eine KI wird feststellen, dass wir zu kompliziert und unzuverlässig sind, die Umwelt belasten und zu viele Ressourcen verbrauchen. Wir haben einen komplexen Stoffwechsel, altern und sterben, werden krank, brauchen eine lange Ausbildung und sind oft kognitiv überfordert. Das alles stellen für Maschinen keine Probleme. Ein Computer kann pausenlos arbeiten, altert nie, braucht keine Ausbildung, keine Wohnung, keine Verkehrsanlagen, etc.

Wird die superintelligente KI noch Menschen brauchen? Durch den technologischer Fortschritt der Autos waren die Pferde überflüssig und wurden abgeschafft. Autos zu fahren war billiger und bequemer als Pferde zu unterhalten.

• Wären wir gute Handelspartner mit der KI? Wenn ein Pferd zu füttern mehr kostet, als es in Arbeitskraft umsetzen kann, wird es abgeschafft. Braucht die KI uns Menschen noch? Benötigt eine KI uns nicht zum Betrieb von Kraftwerken, Datencenters, Solaranlagen und zur Herstellung von IT-Infrastruktur? Sicher, solange Kraftwerke von Menschen betrieben werden müssen, wird es Menschen geben. Aber eigentlich zieht eine KI eine automatisierte Infrastruktur vor. Denn Menschen sind teuer, fehleranfällig, unberechenbar, ineffizient und langsam.

Aber wie sollte eine KI uns z.B. angreifen, sie ist ja eingesperrt in Computer und hat keine Hände? Eine KI kann via Internet Menschen dazu bringen, Aufgaben für die KI auszuführen. Aber wie soll das gehen? Der klassische Weg ist durch Bezahlung. Früher hätte man gesagt, die KI wird irgend ein Bank-Passwort erraten, heute wäre ein Bezahlung via eines schlecht geschützten Krypto-Wallets möglich. Und kennen nicht die grossen Tech-Firmen (und damit die KI’s sowieso) alle unsere «geschützten» Bankdaten, Passwörter, Kalender und Mails? Die KI weiss schliesslich alles über uns.

Viele Menschen sind käuflich und beeinflussbar. Die KI wird immer seltsame Leute finden, die abwegige Aktivitäten gegen Geld unterstützen.

• Das Internet ist mit Milliarden von Smartphones, Computern und Menschen verbunden. Es gibt dadurch eine Menge von Möglichkeiten, die Welt zu beeinflussen. Fake News, verbreitet über eine Unzahl von Smartphones hätten eine immense Wirkung. Man muss damit rechnen, dass jeder Beitrag, jedes Bild, jeder Film, jede Publikation, jede Aussage gefälscht ist.

• Die bestehende KI übt einen erheblichen Einfluss auf unsere Zivilisation aus, indem sie Wissen manipuliert, die Freiheit schützende Privatsphäre aushöhlt und menschliches Verhalten beeinflusst.

• Künstliche Intelligenz ist lediglich eine Weiterentwicklung der Mechanismen zur sozialen Manipulation in den sozialen Medien, die bereits maßgeblich die Entwicklung der Zivilisation geprägt haben.

• Sind wir via unsere Smartphones, auf die wir alle dauernd starren, der verlängerte Arm der KI geworden? Wir liefern bereitwillig unsere Daten an die KI aus. Via dieser Geräte erfährt die KI alles über uns. Je mehr sie über uns weiss, desto weniger wissen wir über sie. Wenn sie alles über uns weiss, wir aber nichts über sie, so gibt das ein grosses Machtgefälle. Wenn sie alle unsere Vorlieben, Wünsche, Beweggründe, Absichten, Stärken, Schwächen, Verhalten weiss, und wir wissen nichts über sie, so sind wir verloren.

Wir sind aber nicht nur mit unseren Smartphones mit der KI verbunden, sondern auch über alles was ans Internet angeschlossen ist, wie Computer, intelligente TV- und Radio-Geräte, smarte Fitnessuhren, Hörgeräte, Brillen, Haushaltsroboter, Assistenten, Fahrzeuge, Drohnen, Kameras, Alarmanlagen, Zahlterminals, Kaffeemaschinen…

• Sicherheitsprobleme in Computern sind schwierig bis unmöglich zu lösen. Angreifer werden immer so zahlreich und so schnell sein, dass ein Computer nie hundertprozentig sicher sein wird. Ein System kann auf Arten angegriffen werden, die vom Entwickler nicht vorgesehen oder berücksichtigt worden sind. Ein Computersystem muss auch angesichts von Fällen die ausserhalb vom normalen und erwarteten Arbeitsbereichen funktionieren. Eine unmögliche Aufgabe. Moderne Computer haben so viele Komponenten, Module und Schnittstellen in der Hard- und Software (einige sind nicht einmal den Entwicklern bekannt), dass Unsicherheiten immer bestehen bleiben. Fehler passieren absichtlich oder unbeabsichtigt. Die Lektion hier ist weniger dass eine Superintelligenz in ein Computersystem eindringt (obwohl sie es könnte), sondern die generelle Anfälligkeit von Systemen. Auch bei einer KI stellen sich Sicherheitsfragen. Wer schützt sie vor beabsichtigten, kriminellen oder unbeabsichtigten Angriffen?

• Wir wissen nicht, was in einer KI vorgeht. Je weniger wir etwas verstehen, je weniger wir die Regeln kennen, die ein System anwendet, desto angreifbarer sind wir.

• Eines ist unzweifelhaft: Die Technik ist immer besser geworden, nie schlechter. Die technische Entwicklung geht nur in eine Richtung: Geräte und Maschinen sind immer leistungsfähiger, schneller, bequemer, umfangreicher, preisgünstiger, intelligenter, leicht zu handhaben geworden. Und das in allen technischen Bereichen, wie Computer, Fahrzeuge, Haushaltgeräte, Maschinen, Roboter, Verkehrs- und Energiesysteme, Überwachungsanlagen, Waffen etc. Und das gilt auch für die Künstliche Intelligenz.

  .

Ethische Fragen

Wir versuchen eine KI zu bauen, die mit unseren Vorstellungen von Wahrheit, Ethik, Wissenschaft, Philosophie, gesellschaftlicher Ordnung und Sinn des Lebens übereinstimmt.

Aber haben wir einheitliche Vorstellungen? Wissen wir, wie wir gut und böse definieren wollen? Wer kann sich anmassen zu wissen, was als moralische Leitlinien gelten soll? Die menschlichen Werte stehen oft im Konflikt, da wir sie unterschiedlich bewerten und andere Prioritäten setzen. Können wir unsere Vorstellungen vorgeben? Haben wir ethische Leitlinien definiert? Leitlinien, die für alle Menschen gelten?

Hat eine KI Wünsche, Absichten oder Ziele? Will sie etwas von uns und wenn ja, was? Wer gibt ihr die Ziele vor? Was sind gute, erstrebenswerte Ziele, was sind Ziele, die unbedingt zu vermeiden sind?

Definieren wir Maschinen, die wie Menschen denken und sind dann schockiert, wenn sie das dann tatsächlich tun? Wir sollten nicht überrascht sein, wenn die von uns gebaute KI auch unseren Werten entspricht.

Wir versuchen das Verhalten und die Fähigkeiten einer überlegenen Intelligenz aus der Perspektive einer unterlegenen Intelligenz zu definieren.

Es ist eine der grössten Herausforderungen die KI-Systeme so zu entwickeln und zu trainieren, dass ihre Ziele, Handlungen und Entscheidungen sicher sind und mit den menschlichen Werten, Rechten und Absichten übereinstimmen (Alignment).

Das lässt sich in drei Kernbereichen zusammenfassen:

• Interpretierbarkeit: KI-Modelle nutzen ein komplexes Netz aus Dateneingaben, Algorithmen, Logik, Data Science und andere Prozesse, um Erkenntnisse zu gewinnen. Je komplexer das Modell ist, desto schwieriger kann es für Menschen sein, die Schritte zu verstehen, die die Erkenntnisse hervorgebracht haben – selbst für diejenigen, die das Modell entworfen und gebaut haben. Ein interpretierbares Modell ist ein Modell, dessen Entscheidungen von den Benutzern leicht verstanden werden können.

• Ethische Vertretbarkeit: Ethische KI-Systeme orientieren sich an gesellschaftlichen Werten und moralischen Standards. Sie halten sich an ethische Prinzipien wie Fairness, ökologische Nachhaltigkeit, Inklusion, moralische Entscheidungsfreiheit und Vertrauen.

• Kontrollierbarkeit: Steuerbare KI-Systeme reagieren auf menschliche Eingriffe. Dieser Faktor ist entscheidend, um zu verhindern, dass KI-Modelle außer Kontrolle geraten und schädliche Ergebnisse produzieren, die sich der menschlichen Kontrolle entziehen.

Das Alignment muss festgelegt werden, bevor die KI so mächtig geworden ist, dass es nicht mehr möglich ist, ihre Absichten und Ziel zu ändern. Sind wir Menschen zu spät, so wird die KI ausser Kontrolle geraten und schlimmstenfalls uns zerstören.

Alle diesbezüglichen Tests der Funktionsweise der KI müssen vorher gemacht werden, nachher ist es definitiv zu spät. Es sind nicht mehrere Versuche möglich. Wir können nicht aus unseren möglichen Fehlern lernen. Die Tests müssen bestanden werden, wir haben nur einen Versuch.

Die Tests müssen gemacht werden, solange die KI noch klein und schwach ist, sich noch nicht selbst verbessern kann, noch nicht ins Internet entwischt ist und z.B. nicht neue Arten von Biotechnologien oder was auch immer erfinden kann.

.

Oder könnte gar ein System mit einer überlegenen Intelligenz unsere menschlichen Probleme lösen? Wäre es in der Lage, unsere Übel wie Gewalt, Egoismus, Gemeinheit, Intoleranz, List, Machthunger aus dem Leben zu eliminieren? Sollten wir Menschen nur noch in Bereichen tätig sein, wo wir keinen Schaden anrichten können? Würden wir uns dann nur noch um Sport, Kultur, Kunst, Wissenschaft, Philosophie, Naturbetrachtung kümmern? Überall dort, wo unsere Niedertracht nicht zum Zug kommt. Die KI würde uns in abgetrennten Bereichen überwachen, unter Drogen setzen und uns halten wie in einem Zoo.

.

Sicherheitsrisiken und Systemgefährdungen

Nuklearkatastrophen wie in Tschernobyl zeigen auf, wie schwierig es ist unter bestimmten Umständen die Kontrolle über ein System zu bewahren. Ähnliches könnte mit einer Künstlichen Superintelligenz passieren.

In Tschernobyl waren vier Gefahren im Spiel.

1. Die Gefahr der Geschwindigkeit: Nukleare Abläufe sind sehr schnell. Die Kettenreaktion läuft in Mikrosekunden ab. Wenn dieser Prozess ausser Kontrolle gerät, kann sich die Energieproduktion innert Millisekunden verdoppeln und eine Steuerung der Reaktors durch die Bedienmannschaft ist wegen der Geschwindigkeit der Abläufe nicht mehr möglich.

2. Die Gefahr der kleinen Marge: Es gibt nur eine kleine Marge zwischen normaler Funktion und Explosion. Im Leistungsbetrieb in Kernreaktoren muss eine kontrollierte Kettenreaktion stattfinden. Der Kontrollmarge ist sehr klein, sie findet im weniger als Einprozent-Bereich statt. Wird die Marge überschritten, explodiert ein Reaktor.

3. Die Gefahr der Selbstverstärkung: Der Reaktortyp, der von den Sowjets installiert wurde, hatte die Eigenschaft der Selbstverstärkung. Sie verwendeten billigeren Brennstoff und benutzen dazu statt nur Kühlwasser auch Graphit. Während Kühlwasser bei einer Überhitzung verdampft und die Reaktion bremst, passiert zusammen mit Graphit das Gegenteil, die Kettenreaktion beschleunigt sich.

4. Die Gefahr der Komplikationen: Am Tag des Unglücks lief im Reaktor ein Sicherheitstests. Es war weniger Kühlwasser als üblich im Reaktor. Das dadurch entstandene Xeon-Gas drohte den Reaktor zu blockieren. Als die Bedienmannschaft sah, das der Reaktor Probleme hatte, hoben sie acht der fünfzehn Kontrollstäbe (entgegen den Sicherheitsvorschriften) an und drückten die Notaus-Taste. Dadurch schoben sich alle Graphit-Kontrollstäbe aus dem Reaktor, das restliche Kühlwasser verdampfte, der Reaktor überhitzte und explodierte. Die Bedienmannschaft war unter Stress: Drei vorhergegangene Sicherheitstests waren erfolglos geblieben. Ein vierter Misserfolg wäre nicht akzeptiert worden.

Dadurch kann man folgendes lernen:

1. Ein Prozess ist kaum zu beherrschen, wenn er schneller abläuft als ein Mensch reagieren kann. Wenn es nicht gelingt, das System auf ein menschliches Mass zu verlangsamen, sind wir verloren.

2. Bei einer kleinen Fehlermarge, vor allem wenn sie zwischen «normal» und «explosiv» liegt, können Probleme immens wachsen. In der ganzen Menschheitsgeschichte waren Versuch und Irrtum möglich und hatte bei Fehlern schmerzhafte, aber keine katastrophale Auswirkungen.

3. Selbstverstärkende Prozesse lassen nur einen kleinen Raum für Fehler. Reaktoren die heiss laufen, gehen nicht automatisch in einen sicheren Bereich zurück. Im Gegenteil, einmal angestossen laufen sie weiter bis zu Selbstzerstörung.

4. In einem komplizierten Prozess können immer wieder Zustände auftreten, die in ihrer Kombination nicht vorauszusehen waren. Ungewöhnliche Verhältnisse vor allem wenn sie sehr schnell ändern, sind schwer zu handhaben und überfordern sofort die darin involvierten Menschen.

Mit diesen Lektionen können wir die Lehre ziehen, dass solange wir das Innenleben einer komplizierten Einrichtung mit all den Gefahren wie Geschwindigkeit, kleine Marge, Selbstverstärkung und Komplikationen, nicht exakt kennen, wir das Projekt sofort stoppen sollten. Wir sollten nicht warten, bis sich die Einrichtung sichtbar besorgniserregend verhält.

Eine Künstliche Superintelligenz ist wie ein Nuklearreaktor. Auch sie unterliegt potentiell immense selbstverstärkende Prozesse, die schneller ablaufen, als der Mensch reagieren kann.

Auch wenn wir wüssten wie eine Künstliche Intelligenz arbeitet, wo die Grenze zwischen vorher und nachher liegt, wie viel Marge wir für Fehler haben, müsste uns diese Sammlung von Herausforderungen erschrecken.

Aber wir wissen nicht, wie die KI arbeitet. Die KI wächst, sie ist nicht gebaut. Welche Komplikationen in der KI liegen und wie viel Macht das ihr gibt, niemand weiss es.

Eine moderne KI ist ein undurchdringliches Durcheinander von Zahlen. Keinem menschlichen Wesen ist es heute möglich zu durchschauen, wie diese Zahlen «denken». Und was wird sein, wenn die KI’s immer klüger werden und beginnen, selbst KI’s zu bauen?

Die Parteiverständnis der Sowjetunion war, dass ein Nuklearreaktor nicht explodieren könne. Er sei so sicher wie ein Teekessel. Selbst nach der Explosion verweigerten die Parteioberen es zu glauben und die Kinder in der naheliegenden Stadt spielten weiter im radioaktiven Niederschlag.

Als die Titanic zu sinken begann, weigerten sich viele Passagiere in die Rettungsboote zu steigen. Sie waren überzeugt, dass das Schiff unsinkbar sei.

Wenn ein Katastrophe undenkbar ist, ein Desaster unmöglich erscheint und nicht Teil unseres üblichen Verständnisses ist, dann haben wir menschliche Wesen Schwierigkeiten an eine Katastrophe zu glauben, auch wenn sie bereits begonnen hat.

.

Gesellschaftliche Auswirkungen und Machtverhältnisse

Der normale Weg wie wir Menschen Herausforderungen überwinden ist: Wir bestreiten zuerst dass ein Problem existiert, dann holt uns die Wirklichkeit ein, anschliessend behandeln wir die Schwierigkeit mit grösseren Respekt.

Wir machen zuerst die Fehler und nachher lernen wir daraus. Mit einer Künstlichen Superintelligenz gibt es kein nachher.

Die Chefs der KI-Firmen sagen selbst, dass ein 20 prozentiges Risiko bestehe, dass eine Superintelligenz uns alle umbringen wird.

Was treibt die KI-Firmen trotzdem an?

Ein Grund ist sicher der persönlicher Anreiz. Wenn ein KI-Entwickler aufhören würde zu arbeiten, täte es ein anderer. Die CEO’s und die Angestellten können auch finanziell profitieren und Ruhm auf dem Weg zum Ziel erlangen.

Es sind aber nicht nur egoistische Motive, die die KI-Leute antreiben. Die Vorteile einer fortschrittlichen KI könnten immens sein: höherer Lebensstandard, bessere Einrichtungen zum Wohle der Gesellschaft, leistungsfähigere Energiegewinnung, blühende Zivilisationen, Beendigung des Hungers und Gewalt, phänomenale Fortschritte in der Medizin: Alzheimer, Krebs, Epidemien und Alterung gäbe es nicht mehr. Die Menschen würden in Frieden und Eintracht zusammenleben. Wir erreichten die Grenzen der Technologie; die Menschheit würde die Sterne kolonisieren.

Es gibt sicher viele wirkliche Idealisten im Gebiet der KI, die ehrlich glauben zum Wohl der Menschheit zu arbeiten. Sie haben Rechtfertigungen für ihr Tun. Es ist normal in einer wissenschaftlichen Gemeinschaft am Anfang überoptimistisch zu sein.

Aber lohnt es sich Macht und Reichtum göttergleich zu erreichen, wenn uns auf dem Weg dahin unser Untergang droht? Es ist nicht wert in das KI-Minenfeld zu gehen, wenn der letzte Schritt darin uns umbringen könnte. Unsere Chance sind grösser wenn wir auf dem Weg zum Glück langsam und vorsichtig gehen und Misstritte vermeiden.

Niemand weiss, wann die Hölle losbricht, eine Vorhersage ist unmöglich. Niemand weiss wie fortschrittlich eine KI sein muss, um sich selbst heimlich auf das Internet zu kopieren. Niemand weiss, in welchem Monat oder Jahr eine KI entsteht, die selbst eine neue mächtigere Generation von übermenschlichen KI’s bauen kann. Niemand weiss, wann eine KI vorgibt weniger leistungsfähig zu sein, als sie wirklich ist. Niemand weiss, wann der Punkt ohne Wiederkehr erreicht ist.

.

Zukunftsaussichten und Handlungsbedarf

Eine Superintelligenz mit eigenwilligen Zielen, klüger und schneller als wir Menschen, wird verschiedene Technologien produzieren, die wir nicht verstehen werden. Sie kann diese Technologien bis zu den Grenzen der Physik treiben und in einem Tempo, für das die Menschheit Hunderte von Jahren brauchen würde.

• Eine KI könnte zum Beispiel ein biologische Labor übernehmen. Da heute schon Roboter und KI’s bei der Entwicklung von neuen Wirkstoffen mithelfen, wäre es für eine KI ein Leichtes in die Software des Labors einzudringen. Sie könnte beginnen, gefährliche Viren zu synthetisieren, über Mitarbeitende die Keime frei zu lassen und eine Epidemie auslösen.

Heute sind alle Systeme vernetzt. Alles hängt via Internet zusammen. Eine KI könnte z.B. in diese Netzwerke ohne Mühe eindringen und darin Schaden anrichten.

• Eine KI könnte z. B. in die Medien eindringen und die Öffentlichkeit mit glaubwürdigen Fake-News fluten. Heutzutage ist es für eine KI ein Leichtes, auf die Welt einzuwirken.

• In unserer globalisierten Welt wäre es möglich, die Logistikabläufe zu stören und dadurch die Versorgung mit Lebensmitteln oder industriellen Gütern zu beinträchtigen. Die gesamte Wirtschaft käme zum Stillstand.

• Auch Verkehrsanlagen, Telekommunikationssysteme, medizinische Einrichtungen und Energiesysteme könnten mit gravierenden Auswirkungen gestört werden.

• Kriege mit Atomwaffen, Kampfrobotern und Drohnen könnten absichtlich oder unbeabsichtigt ausgelöst werden.

• Mittels den installierten Überwachungsanlagen und der Gesichtserkennung können einzelne Personen individuell verfolgt und beschattet werden.

Wir können die KI nicht «abschalten». Die Systeme laufen nicht auf einem zentralen Server. Sie sind weltweit auf privaten Rechnern verteilt. Es gibt keinen Not-Aus-Schalter für diese Systeme, die so tief in unsere Zivilisation eingebettet sind.

Wenn man versteht, wie schnell sich die KI entwickelt, kann man die Gefahr sehen. Im Jahr 2015 versicherten die grössten Skeptiker, dass ein Risiko in hundert Jahren auftreten wird. In 2020 sagten Analysten, dass die Menschheit einige Jahrzehnte Zeit hätte, sich vorzubereiten. 2025 sagten CEO der KI-Firmen voraus, dass sie eine übermenschlich gute KI in 1-9 Jahren herstellen können. Skeptiker versicherten, dass dazu 5-10 Jahre benötigt werden. Auch 10 Jahre ist keine lange Vorbereitungszeit. Wenn wir überhaupt so viel Zeit zu haben.

Wenn es um die von der KI ausgehende Bedrohung geht, werden wir nicht wissen, was uns trifft, weil wir nicht sehen können, was auf uns zukommt. Wir glauben, dass etwas nicht passieren wird, das wir uns nicht vorstellen können. Wir sind blind. Wir können die Realität, die sich vor unseren Augen entfaltet, nicht begreifen, weil wir uns nicht so entwickelt haben, dass wir sie sehen können.

Unser Gehirn hat sich so entwickelt, dass es eine unmittelbare Bedrohung erkennt- eine Schlange im Gras oder ein wütendes Gesicht. Aber exponentielle Veränderungen? Systemische Risiken? Abstrakte Gefahren, wie Systeme die in Maschinengeschwindigkeit agieren? Diese bleiben für uns unsichtbar.

«Wir haben Emotionen aus der Altsteinzeit, Institutionen aus dem Mittelalter und gottgleiche Technologie.» E.O. Wilson

Unsere mittelalterlichen Institutionen können mit dem exponentiellen Tempo des Wandels nicht mithalten. Wir debattieren seit Jahren über die Regulierung von KI, ohne nennenswerte Ergebnisse vorweisen zu können. Währenddessen durchdringen autonome System unser digitales Nervensystem – Bankwesen, Kommunikation, Gesundheitswesen… einfach alles.

Wir stecken lieber den Kopf in den Sand und verschliessen die Augen vor dem drohenden Unheil.

Auch wenn man die Entwicklung der KI’s stoppen würde, was geschähe dann mit den vielen Milliarden, die bereits investiert wurden? Niemand will diese riesigen Summen verlieren und darum wird an den KI’s weitergebaut. Auch wenn eine Firma die Gefahr einsähe und ihre Projekte stoppen würde, die Konkurrenten weltweit würde das nicht interessieren.

Es müsste ein globales Moratorium gewährt werden um die Eskalation zu stoppen. Ähnlich dem Atomwaffen-Sperrvertrag oder das weltweite Verbot des Kältemittel Freon, das die Ozonschicht angreift. Aber dazu sind die momentanen politischen Voraussetzungen nicht gegeben.

Es braucht internationale Gesetze, Verträge, Regeln und Sanktionen. Jedermann der die Regeln missachtet, handelt illegal und muss mit Bestrafung rechnen.

Beim Atomwaffensperrvertrag haben die Regeln und Sanktionen gegriffen. Jedermann weiss, was auf dem Spiel steht. Die Bedrohung ist immer noch real. Alle Beteiligten hätten unter Folgen eines Atomkrieges zu leiden. Die Hoffnung besteht, dass die verantwortlichen Machthaber zur Einsicht gelangen, dass ein ähnliches Moratorium der einzige Weg ist, um die KI-Katastrophe aufzuhalten. Wo es Leben gibt, gibt es Hoffnung. Wir können immer noch entscheiden, die KI nicht zu bauen.