cover von meinem Podcast She Drives Mobility

Unsere Worte sind unsere Waffen – was hat das mit künstlicher Intelligenz zu tun, Eva Wolfangel?

Wenn dir diese oder auch eine andere Folge gefällt, lass´ gern eine Bewertung da und/oder supporte mich per Ko-Fi oder PayPal. Meinen wöchentlichen Newsletter gibt es bei steady. Mein zweites Buch „Raus aus der AUTOkratie – rein in die Mobilität von morgen!“ kann ab sofort vorbestellt werden. Ich freue mich, wenn du das machst, denn das hilft nischigen Sachbüchern wie dem meinen, wahrgenommen zu werden. Ihr wisst schon: Kapitalismus – Carpitalism – und dann erst das Paradies für alle. Ich habe grad damit begonnen, für alle Podcasts auch Transkripte bereit zu stellen, auf dass noch mehr Menschen, die nicht so gern hören oder nicht so gut hören können, an meinen Inhalten teilhaben.

Eva Wolfangel beschäftigt sich seit zehn Jahren mit künstlicher Intelligenz, eigentlich wollte sie sich langsam anderen Themen zuwenden. Aber dann kamen ChatGPT, andere große Sprachmodelle und ein riesiger Hype. Natürlich ist das alles nicht total neu, sagt sie. Aber durch browserbasierte Chatbots haben Unmengen mehr Menschen Zugang zu KI. Die öffentliche Wahrnehmung schwingt von der Eroberung der Welt durch die Maschinen bis hin zu einer fast sektenartigen Technologiegläubigkeit. Beides – so Eva – ist falsch. Denn wie so oft: Es kommt darauf an.

Richtig ist: Die heutigen KI-System basieren auf der Welt, in der wir leben. Diese enthält Unmengen an Rassismus, Sexismus, Ableismus… Und natürlich darf man nicht vergessen, dass hinter „KI“ große Unternehmen stecken, die unsere Daten sammeln nicht zur Rettung der Welt, sondern zur Steigerung ihrer Rendite sammeln. Um zu zeigen, dass wir im Gegensatz zu vielen düsteren Szenarien sehr viel in der Hand haben, die uns durch niedrigschwellige Chatbots eröffnet werden, hat Eva einen Talk auf dem 37C3 gehalten – dem alljährlich Kongress der Community rund um den Chaos Computer Club. Sie hat ChatGPT dazu gebracht, ihr bei investigativen Recherchen zu helfen, denn da sind die Chatbots tolle Tools. Ein weiterer Aspekt ihrer Vortrags war, zu zeigen: Viele Dinge funktionieren noch lange nicht. Man kann z. B. nicht nach Fakten fragen und erwarten, dass die Antwort stimmt. Da muss man schon noch nachrecherchieren. Aber Fragen zu stellen, wie ich an bestimmte Infos rankomme, das funktioniert gut. Das Highlight des Talk war dann für Eva so genanntes „Social Engineering“. Sie brachte einen Bot, der angeblich für Betroffene von psychischen Erkrankungen und Angsterkrankungen sein sollte, dazu, zu verraten, dass er ein versteckter Verkaufsbot war, der ein Medikament bewerben sollte.

Eva denkt, dass es vor allem auch die Sprache ist, die Hürden aufbaut, die Menschen davon abhalten können, diese Tools zu nutzen. So zum Beispiel das Wort „prompt injection“, das einfach nur Eingabe von Begriffen bedeutet. Diese Sprache, so ihre Vermutung, kommt – kommt vielleicht auch unbewusst von den entwickelnden Menschen, aber Jenen, die in der Technologie viel Ahnung haben, zeigen so ein bisschen, das ist Herrschaftswissen. Also da sollten Sie auch alle selbst nochmal an den eigenen, wie sagt man, an die eigenen Kragen packen, an die eigene Nase fassen.

Ich habe Eva auch zum großen offenen Brief befragt, den viele KI-Verantwortliche schrieben, um vor einer düsteren Zukunft zu warnen. Eva ist sich sicher, dass das reines Marketing war. Einmal, um nach außen zu zeigen, wie weit sie schon sind mit ihrer Technologie. Dann aber auch, um Regulierung auf den Plan zu rufen, die am Ende oft den kleineren Firmen schadet. Die Konzerne haben mit neuen Vorgaben kaum Probleme, wie zum Beispiel der AI-Act, für die kleineren hingegen ist es oft das K.O.-Kriterium. Spannendes Gedankenspiel von Eva: Was würde eine KI machen, die wir danach fragen, die Welt zu retten? Dann kann es passieren, dass diese KI, die Muster und Zusammenhänge erkennt, nachvollzieht: Dem Planeten geht es schlecht, seit die Menschen sich so weit entwickelt haben. Die Klimakatastrophe ist Menschen verursacht. Und die KI schlägt folgegerecht vor: Um den Planeten zu retten, müssen wir die Menschen beseitigen. Eva konnte mich aber beruhigen, das wird nicht eintreten. KI hat keinen eigenen Willen. Aber für Eva sind die Gedankenspiele wichtig, auch um zu überlegen, was schiefgehen im Umgang mit KI? Ihr ist es daher wichtig, dass wir uns überlegen, was können böse Menschen mit KI Schlechtes machen? Und vor, was sollten wir mit KI nicht machen?

Eva führte hierzu das Beispiel aus den USA an, wo eine KI Richtern helfen sollte zu entscheiden, ob jemand früher aus der Haft entlassen wird. Auf Basis der heutigen (rassistischen) Welt hat diese KI beschlossen, dass die Hautfarbe relevant ist und Schwarze länger im Gefängnis bleiben sollten als Weiße. Diese Fehlbeurteilung wurde lange nicht bemerkt, die KI war real im Einsatz und hat Menschen rassistisch benachteiligt. Es war dann ProPublica, US-Journalisti:nnen, die das aufdeckten und dafür Sorge trugen, dass das System abgeschaltet wurde.  

In ihrer Arbeit als Journalistin merkt Eva oft, wie wichtig es ist, z. B. die DSGVO nicht nur zu kennen, sondern angemeldete Verstöße gegen diese auch zu verfolgen. Zu oft, wenn Eva einen Datenschutzverstoß, zum Beispiel unsichere IT-Systeme im Gesundheitsbereich, in der Verwaltung, wo Daten von uns Bürger:innen an Kriminelle gelangen, weil sie nicht sicher sind – passiert oft wenig. Auch der AI-Act, der aktuell diskutiert worden ist im Europaparlament, hat sehr gute Ansätze, das auf ein nächstes Level zu heben. Trainingsdaten, müssen repräsentativ sein und kein Bias haben. Dokumentation von Gefahren, die von den Daten ausgehen können, ist Pflicht. Eva sieht die EU da als Vorreiterin. Aber: wird es am Ende auch so umgesetzt? Kommt es dann am Ende auch wirklich an und wird es auch verfolgt, wenn es Verstöße gibt?

Über die gesellschaftliche Abwehr von KI muss Eva immer wieder schmunzeln, denn fast alle nutzen Google Maps zur Navigation und genießen die Vorteile, obwohl das eine KI ist, die massenhaft Daten sammelt. Da sieht Eva auch ganz klar ihre Aufgabe, dafür zu sensibilisieren, was diese Firmen mit den Daten alles machen können. Was Google über uns weiß, wenn wir fast alles im Leben mit Google machen.

Was Eva noch wahrnimmt, ist eine (bei den Befürworter:innen) fast irrationale Angst, dass wir abgehängt werden im Vergleich zu anderen Ländern. Eva kann das nicht nachvollziehen, hat sogar das Gefühl, dass unser Vorgehen in Europa, Wert zu legen auf Erklärbarkeit, auf Robustheit, auf Datenschutz und Datensicherheit, international wichtig ist. Das macht die Systeme besser, die funktionieren und sind im Idealfall nicht diskriminierend, sondern für alle Menschen da. Daher wünscht sich Eva auch, dass alle sich mit diesen Systemen beschäftigen – und nicht immer nur die gleiche Gruppe von Menschen, sondern ein Abbild unserer Gesellschaft.

2 Antworten zu „Unsere Worte sind unsere Waffen – was hat das mit künstlicher Intelligenz zu tun, Eva Wolfangel?“

  1. Avatar von grv0815
    grv0815

    Bitte, bitte, bitte hört auf, der AI Intelligenz zu unterstellen!
    Ein AI-System muss NICHT über die diversen Ismen bescheid WISSEN, da es schlicht gar nichts weiß. AI ist nicht mehr als Kurfenanpassung, wenn man so will eine aufgemotzte Tangentenberechnung. Angst braucht man davor nicht haben, sehr wohl aber vor der ND, der natürlichen Dummheit, die z.B. AI falsch einsetzt.
    Ja, es gibt tolle Anwendungen der AI. Wenn sie z.B. auf Luftbildern Landminen oder vergessene Siedlungen erkennt.
    Aber daneben gibt es mittlerweile auch dubiose Einsatzgebiete, wo die AI als moderne Form der Phrenologie verwendet wird. Im Bereich der HR z.B., wo manchmal Attribute wie der Anfangsbuchstabe der Vornamen in Bewertungen einfließen.


    1. Avatar von Katja

      Ich war mir gar nicht bewusst, dass ich AI irgendwas unterstelle. Aber danke für den Kommentar. Ich denke, wir sind da eher „auf Linie“ als dass es Unterschiede gibt 😉


Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Dir gefällt, was ich tue?

Unterstütze mich gern! Du und ich: Wir sind ein Kollektiv!

Detailbeschreibung ausklappen

Ich freue mich sehr, wenn meine Arbeit dir Mehrwert bietet und du mich dabei unterstützen möchtest!

Um meine Projekte langfristig fortsetzen zu können, möchte ich mir ein Grundeinkommen sichern. Seit einiger Zeit habe ich ein unterstützendes Team um mich aufgebaut: Jemand kümmert sich um meine E-Mails, eine andere Person übernimmt meinen Instagram-Account, und ein weiterer Mensch mixt meinen Podcast ab. Auch mein Steuerberater und meine Rechnungsfee gehören dazu. Dieses Outsourcing entlastet mich enorm, bringt aber natürlich auch Kosten mit sich. Deshalb möchte ich im ersten Schritt diese Kosten decken und freue mich über jede Unterstützung.

Exklusive Inhalte und virtuelle Treffen

1 × wöchentlich schaue ich in den Rückspiegel: Wo stehen wir in der Mobilitätswende? Und gebe Abonnent:innen exklusive Inhalte.

Detailbeschreibung ausklappen

Für nur fünf Euro pro Monat erhältst du meinen wöchentlichen Steady-Newsletter. Es gibt auch weitere Pakete, die Gastzugänge oder größere Pakete für Unternehmen beinhalten, die bis zu 20 Zugänge für Mitarbeiter:innen oder Kolleg:innen bieten. Bei den größeren Paketen ist ein virtuelle