Eine Suchanfrage im Internet, ein bisschen Spielen mit ChatGPT oder die Musikvorschläge bei Spotify und Co.: Künstliche Intelligenz zeigt sich meist von ihrer angenehmen Seite. Doch in der neuesten Ausgabe seines "ZDF Magazin Royale" richtet Jan Böhmermann die Scheinwerfer auf ein weniger angenehmes Thema: Grenzschutz mit KI.
Der Rauswurf der AfD aus der Fraktion der Rechten im Europäischen Parlament, der Tod des iranischen Präsidenten Ebrahim Raisi durch einen Hubschrauberabsturz, die "Ausländer-raus-Rufe" auf Sylt und 75 Jahre Grundgesetz – Jan Böhmermann huscht vergleichsweise schnell durch die Themen der Woche. Aber Böhmermann hat auch viel vor, denn bei ihm soll es am Freitagabend um "das Hype-Thema in Europa" gehen: Künstliche Intelligenz.
Doch genau genommen geht es
Wer gefährdet die EU?
Die Europäische Union fördere nämlich KI-Projekte in einem ganz bestimmten Bereich: "Die EU und ihre Mitgliedsstaaten wenden sich in ihren Anstrengungen, den Grenzschutz zu stärken und Sicherheitsrisiken im Zusammenhang mit grenzübergreifendem Terrorismus und Schwerkriminalität zu verringern, zunehmend KI-Technologien zu. Dies ist der jüngste Ausdruck eines größeren Trends in Richtung 'smarterer' EU-Grenzen […]", zitiert Böhmermann das Europäische Parlament aus dem Jahr 2021 – seine Zusammenfassung hört sich allerdings ein wenig anders an.
"Die EU ist in Gefahr. Und zwar nicht wegen Herbert Kickl, Victor Orbán,
Denn aus Böhmermanns Worten klingt die Absicht heraus, der Einseitigkeit der zitierten Aussage etwas entgegenzusetzen. Das wäre auch zulässig, würde er dabei nicht Äpfel mit Birnen vergleichen. Denn natürlich ist der europäische Gedanke und ja, vielleicht sogar die EU selbst, durch Autokraten, Rechte, rechte Autokraten und Diktatoren bedroht. Aber eben nicht nur, beziehungsweise auf verschiedene Weise. Putin, Orbán und Kickl etwas entgegenzusetzen, bedeutet nicht, die Grenzen nicht mehr zu schützen – und umgekehrt.
Jan Böhmermann: "Europa soll zu so einer Art Smart Home werden"
Und so will die EU ihre Grenzen nun eben auch mit Hilfe Künstlicher Intelligenz schützen oder wie es Böhmermann formuliert: "Europa soll zu so einer Art Smart Home werden." Wie dieses "Smart Home" aussehen soll, für dieses Bild stellt Ursula von der Leyen drei tragende Säulen vor, wie Böhmermann die EU-Kommissionspräsidentin zitiert: "auf den Menschen ausgerichtet, transparent und verantwortungsbewusst".
Doch weil Böhmermann die EU in diesen drei Grundpfeilern nicht erkennt, sieht er sich am Freitagabend zusammen mit der NGO Algorithm Watch drei dieser KI-Projekte genauer an. Zum Beispiel das Projekt von Roborder, das von der EU mit knapp acht Millionen Euro gefördert wurde und bei dem mobile Roboterdrohnen in Schwärmen die Außengrenzen überwachen sollen. "Autonome Menschenjagd-Roboter mit KI", nennt Böhmermann das Projekt, sieht darin aber noch mehr.
Er erinnert an die sogenannten "Pushbacks", also das mitunter gewaltvolle Zurückdrängen von Migranten an den Grenzen. "Jetzt stellen Sie sich mal vor, das machen in Zukunft keine gefühlskalten Frontex-Beamten mehr, sondern warmherzige, autonome Roboterdrohnen mit KI. Man wird ja wohl noch träumen dürfen. Können Roboter eigentlich gegen Menschenrechte verstoßen? Da eröffnen sich ja ganz neue ethische und juristische Fragestellungen", meint Böhmermann, bewegt sich dabei aber auf einem schmalen Grat.
Grenzschutz, oder nicht?
Denn auch hier wirft Böhmermann zwei Sachen in einen Topf, Pushbacks und Grenzüberwachung mithilfe von Drohnen. Belastbarer ist da Böhmermanns Kritik am zweiten von der EU geförderten Projekt, iBorder Ctrl. Mit einer KI basierten Gesichtsanalyse soll dabei herausgefunden werden, ob jemand lügt. Für Böhmermann ein klarer Fall: "Das Problem an dieser genialen iBorder-Ctrl-KI-Idee ist nur: Es gibt leider nur exakt einen Einzigen auf der Welt, dem man zuverlässig am Gesicht ablesen kann, wenn er lügt: Pinocchio. Man kann Menschen nicht zuverlässig am Gesicht ablesen, wenn sie lügen. Auch KI kann das nicht."
Böhmermanns Kritik am dritten Projekt, Nestor, bezieht sich dann vor allem darauf, dass von den 177-seitigen Dokumenten, 169,5 Seiten geschwärzt oder ausgegraut gewesen seien, "um die kommerziellen Interessen der Forschungsteams zu schützen". Wer sich darüber und über die anderen Projekte, die die EU zum Grenzschutz mit Künstlicher Intelligenz fördert, informieren will, für den haben die NGO Algorithm Watch und das Team des "ZDF Magazin Royale" ihre Recherchen unter fuckoffai.eu zusammengefasst.
Auch wenn der Domainname natürlich alles andere als neutral ist, lohnt sich ein Blick auf die Seiten, alleine schon, weil das Thema in den knapp 30 Minuten der Show doch recht schnell abgehandelt wird. Man könnte auch einseitig sagen. Böhmermann beginnt nämlich beim Vorstellen der Projekte mit dem zweiten Schritt, löst das vorgelagerte Dilemma nicht auf. Und dieses Dilemma besteht darin, die Notwendigkeit eines Grenzschutzes anzuerkennen – oder eben auch nicht.
Böhmermann scheut die grundsätzliche Debatte
Böhmermann löst dieses Dilemma nicht auf, einfach, weil er es gar nicht anspricht. Dementsprechend schwingt immer die Unsicherheit mit, wie ein Grenzschutz Böhmermanns Meinung nach aussehen soll: wirksam, aber nicht konsequent oder nicht konsequent, aber trotzdem wirksam oder nichts von beidem? Mit anderen Worten: Böhmermann scheut sich, eine Position zur Notwendigkeit von Grenzschutz zu beziehen, mutmaßlich aus Angst davor, dass ein Bejahen auch die bitteren Konsequenzen bejaht, die ein Grenzschutz nach sich zieht.
Also umschifft Böhmermann die Tatsache, dass wenn man sich für einen Grenzschutz entscheidet, man sich auch für einen wirkungsvollen Grenzschutz entscheidet. Dementsprechend stellt Böhmermann auch nicht die Frage, ob ein KI-basierter Grenzschutz nicht einfach nur konsequent ist.
Ist das feige? Ja, vielleicht. Denn diese Diskussion gehört eigentlich mit dazu, wenn man eine Folge über Grenzschutz und KI macht. Ist die Ausgabe deshalb unzureichend? Auch hier ein Vielleicht, aber Böhmermanns Verdienst bleibt, auf das Thema hingewiesen und die Sinne für Risiken geschärft zu haben. Denn auch und insbesondere für KI gilt das, was uns die Vergangenheit gelehrt hat. Nämlich dass alles, was möglich ist, irgendwann auch gemacht wird.
"So arbeitet die Redaktion" informiert Sie, wann und worüber wir berichten, wie wir mit Fehlern umgehen und woher unsere Inhalte stammen. Bei der Berichterstattung halten wir uns an die Richtlinien der Journalism Trust Initiative.