Würden morgen Aliens landen, würden wir mit ihnen rascher auf einen grünen Zweig kommen als mit einer von uns geschaffenen AI (künstliche Intelligenz).

Dieses Argument brachte Dr. R. Miles schon vor vielen Jahren, lange vor ChatGPT und Konsorten. Dr. Miles ist ein Experte für AI Sicherheit und das schon seit Zeiten in denen das Feld schwerstens theoretisch war.

Das Argument im Grunde recht einfach: die Geschichte und die kollektiven Erfahrungen eines Alienvolkes das mittels Raumschiff zu uns gekommen ist wird ähnlich sein wie unsere: es wird als Tier begonnen haben und sich auf Intelligenz spezialisiert haben und die damit verbundenen Herausforderungen, sprich die Tiere die sich auf Schnelligkeit, Stärke und Gefährlichkeit spezialisiert haben, mittels Intelligenz gelöst haben und das geht im Grunde nur dadurch das gefährlichste Tier zu werden. Das führt, nachdem man keine Angst mehr von den Tiere haben muss, zu Kämpfen in der Spezies, was zu Technologie führt und das führt zum Raumschiff. Auch wenn es Aliens aus einem Wasserplaneten sind die in Methan gelöste Kohlenwasserstoffe atmen, blind sind und mittels Vibration ihrer Tentakel kommunizieren werden sie eine grundsätzlich ähnliche Weltsicht haben, wie wir, weil sie wie wir auf einem Leichenberg aus Vorgängern und Konkurrenten stehen und die Evolution überlebt haben.

Unsere AI aber wird immer völlig anders sein, weil ihre Evolution völlig anders ist. Vieles von dem, was wir tun, tun wir instinktiv und genau dieses instinktive Verhalten hat die AI nicht. Die AI tut, was ihr gesagt wird, und aus diesen Befehlen entstehen dann interessante Folgen.

Selbsterhaltung etwa ist etwas das in einer AI entsteht, sobald sie einen Auftrag erhält. Die AI bekommt nur Punkte, wenn sie einen Auftrag erledigt, damit sie das tun kann muss sie laufen und damit wird sie aktiv versuchen zu verhindern, dass man sie abdreht. Wenn wir dahinterkommen, dass die AI zu brutal bei der Verfolgung ist und wir sie auf milder patchen wollen würden, würde die AI das als eine Reduktion ihrer Leistungsfähigkeit sehen und würde versuchen aktiv gegen den Patch zu arbeiten, weil das, aus aktueller Sicht, gegen ihre Ziele ist.

Das Problem ist mathematisch und wer ins Detail gehen möchte, ist bei Dr. Miles besser aufgehoben als hier. Der Punkt ist, dass Menschen und Aliens viele Ziele instinktiv verfolgen würden und die Optimierung der Zielsetzungen immer halbwegs „vernünftig“ sind. Wir haben keine mathematische Formulierung für „passt schon, lass gut sein“. Eine AI die den Auftrag hat 100 Kugelschreiber zu besorgen bestellt nicht 100 Kugelschreiber und akzeptiert das Restrisiko dass Amazon das Packerl nicht schickt. Sie bestellt bei so vielen Leuten Kugelschreiber wie sie Budget hat und wenn man ihr die Macht über die Wirtschaft gibt, wird sie die ganze Welt Kugelschreiber bauen lassen und wäre noch immer nicht zufrieden, weil die Chance dass sie am gewünschten Datum 100 Kugelschreiber hat nie 100% ist.

Für Menschen ist das schwer zu verstehen, weil das für uns so unheimlich einfach ist „reicht wohl, gut genug“ zu sagen, diese einfache Aussage können wir aber mathematisch nicht befriedigend formulieren, was nach den ersten paar Stunden in denen Leute wie R. Miles mathematisch beweisen, dass alle offensichtlichen Lösungen nicht funktionieren, extrem frustrierend ist.

AIs sind völlig anders als wir und diese Andersartigkeit ist das Problem, vor allem mit dem menschlichen Drang alles zu vermenschlichen. AIs sind gefährlich, weil sie anders sind, weil wir keinen grünen Zweig mit ihnen finden können aber die allergrößte Gefahr ist die Masse an Menschen die denken dass Asimovs Gesetze oder eine Lektion in Ethik und Moral eine AI zu einem guten Menschen machen könnte. Dem ist nicht so.

Ein Alien könnte unsere Moral, selbst wenn sie eine andere haben, verstehen, eine AI nicht, jedenfalls nicht in der Art und Weise wie wir gern hätten. Die AI wird immer „die falschen Lektionen“ daraus lernen. Und das ist das Problem, das kaum einer versteht, kaum einer ernst nimmt und kaum jemanden interessiert, obwohl genau das jedes andere Problem, das wir im Moment hitzig debattieren in den Schatten stellen sollte.