wir haben den 4. Januar 2025 … und zum Geburtstag wünsche ich mir vier Minuten deiner Zeit für diesen kleinen Textmitschnitt aus einem Gespräch. Er beschäftigt sich damit, wie schon eine vergleichsweise schwache „Schwache KI“ seit Jahren unser Verhalten bestimmt, wenn wir es uns nicht drastisch genug bewusst machen.
Der Philosoph Thomas Metzinger, mit dem ich mich bei der gbs schon unterhalten durfte, forscht seit Jahrzehnten über künstliches Bewusstsein. In einem Podcast sprach er 2020 das allgemeinere Thema „Algorithmen in Sozialen Netzwerken“ an und fasst das, finde ich, in gut verständliche Worte (ab Min. 58:24):
„Langsam beginnen auch hier in Europa Leute zu erkennen, dass die Sozialen Medien die Grundlagen der Demokratie untergraben und dass wir 1, 2 Generationen von Kindern und Jugendlichen verheizt haben. Das erkennen z.B. auch Hochschullehrer. Das liegt natürlich daran das z.B. Facebook das Verhalten seiner 3 Milliarden Nutzer mit KI optimiert.
KI ist immer an ein Geschäftsmodell gekoppelt, also z.B. an die Interessen der Werbekunden von Facebook oder Google. Nicht an das Gemeinwohl. Nicht an das Ideal der geistigen Gesundheit. Oder nicht an das Ideal einer Technologie, die dem Menschen hilft, ein besseres Leben zu leben. Sondern es geht um die Profite der Werbekunden von Facebook. Und da lernen Algorithmen sehr schnell und sehr effektiv – und zwar 24 Stunden am Tag, auf der ganzen Welt – was Leute dazu bringt, länger am Bildschirm zu kleben, als sie eigentlich vorhatten. Wie man Leute dazu bringt, sich zu verlaufen im Internet, aus versehen doch Werbung anzuschauen, die sie nicht anschauen wollten.
Und die KI lernt etwas über uns Menschen. Sie lernt z.B. Empörung, Hass und Wut funktionieren sehr gut im Interesse unserer Werbekunden. Sie lernen, man kann das Benutzerverhalten steuern, indem man Zwietracht sät und sozialen Neid stimuliert usw. Das hat die EU noch gar nicht richtig verstanden, aber wir sehen jetzt überall das Entstehen von Populismus, rechten Bewegungen. Den Zerfall des sozialen Zusammenhalts können wir sehr deutlich z.B. in den USA beobachten, wo die KI-gestützen Sozialen Netzwerke schon tiefer eingedrungen waren in die Gesellschaft.
Das heißt, da mag kein wirklicher theoretischer Durchbruch dahinter stehen, hinter dieser Anwendung von künstlicher Intelligenz zur Optimierung und Steuerung und Manipulation von Benutzern sozialer Netze. Aber der Effekt ist da – und alle wundern sich. ,Woher kommen die Gewaltausbrüche denn? Woher kommen Studenten, die nichts mehr lesen wollen? Woher kommt das plötzliche Entstehen von immer mehr populistischen Machthabern oder Parteien?’ Das sind KI-Auswirkungen und dazu braucht es nicht Science-Fiction-KI. Da braucht’s nur, dass etwas sehr gut funktioniert, und zwar so gut dass es alle überrascht.
Und das haben wir jetzt schon. Wir sind selbst überrascht davon, dass wir alle ein kleines Bisschen internetsüchtig sind. Wir versuchen alle ein bisschen Witze drüber zu machen und das ein bisschen wegzudrücken. Jeder von uns merkt: Ja, wir gehen spazieren, ja wir gehen in den Wald – aber wir merken, genau wie der Raucher so eine kleine Sucht nach der nächsten Zigarette kriegt, dass irgendwas in uns diese Neuigkeitsreize wieder haben will. Diese kleinen Dopamin-Ausschüttungen in unserem Gehirn. Und dann gehen wir an diesen Spielautomaten, den wir unser Handy nennen und versuchen unser Glück – und das hat alles mit KI zu tun.“
Liebe Freundinnen und Freunde, habt ein gutes 2025!
Aus: „Selbstbewusste KI“ – #05 Von Kühlschranklichtern, KI-Pubertät und Turnschuhen. Im Gespräch mit Prof. Dr. Thomas Metzinger, Oktober 2020, ab Min. 58:24
PS: Meine Tochter hat gestern ihre TikTok-App gelöscht. Das war ihre eigene Idee – und ich bin sehr stolz auf sie.
PPS: Wer noch etwas zum Thema lesen will, kann diesen Beitrag von mir selbst aufrufen: https://digitalhumanrights.blog/elon-musks-neue-kleider-warum-es-zeit-ist-x-zu-verlassen/
Die Autoren des Podcasts: Karsten Wendland Redaktion, Thomas Metzinger
Aufnahmeleitung und Produktion: Robert Sinitsyn
Licence: CC-BY, DOI: http://doi.org/10.5445/IR/1000124512