KI und Roboter zum Schutz der EU-Außengrenzen?
Aktuell wird ein "intelligentes Kontrollsystem" entwickelt, das unter anderem Gesichtsregungen analysiert. Damit sollen die EU-Grenzen sicherer werden.
In einem von der EU finanzierten Projekt wird aktuell ein „intelligentes Kontrollsystem“ entwickelt, um Drittstaatsangehörige, die die Außengrenzen der EU erreichen, besser und effizienter überprüfen zu können.
Das tragbare Grenzkontrollsystem iBorderCtrl umfasst eine Reihe von diversen Protokollen und Computerverfahren, die Gesichter scannen und „verdächtige“ Reaktionen von Reisenden erkennen sollen, beispielsweise wenn diese in Bezug auf ihre Einreisegründe lügen.
Das auf künstlicher Intelligenz basierende Screening-System wertet dafür bis zu 38 Gesichtsveränderungen aus, beispielsweise die Blickrichtung, Pupillenerweiterung, minimale Stimmveränderungen und andere für Menschen nicht wahrnehmbare „Mikrogestiken“.
iBorderCtrl wurde mit Mitteln aus dem Forschungs- und Innovationsprogramm Horizon 2020 der EU entwickelt und wird zwischen 13 Partnerinstitutionen in ganz Europa koordiniert.
Die Europäische Kommission beteiligt sich mit 4,5 Millionen Euro an der Entwicklung des neuen Instruments, das im September 2016 ins Leben gerufen wurde und von einem luxemburgischen Unternehmen namens European Dynamics verwaltet wird. Der Abschluss der Testphase ist für August 2019 geplant.
Neben dem Ziel, die Kontrolle der Grenzen Europas zu verschärfen und zur Prävention von Kriminalität und Terrorismus beizutragen, soll das System laut Kommission auch den Verkehrsfluss an den Grenzen beschleunigen.
„Wir nutzen bestehende und bewährte ebenso wie neue Technologien, um es Grenzbeamten zu ermöglichen, die Genauigkeit und Effizienz der Grenzkontrollen zu erhöhen,“ erklärte der Projektkoordinator George Boultadakis von European Dynamics zum Start der Testphase.
„iBorderCtrl wird Daten sammeln, die über die Biometrie hinausgehen und somit zu echten „Markern“ für Täuschungsversuche werden,“ fügte er hinzu.
Testphase läuft schon
Das aktuell laufende Pilotprojekt besteht aus einem zweistufigen Verfahren auf freiwilliger Basis. In einem ersten Schritt absolvieren Menschen, die in die EU einreisen wollen, bei der Einreichung einer Online-Antragstellung zu Hause einen sogenannten „Pre-Screening-Test“. Bei diesem müssen sie verschiedene Dokumente hochladen, darunter das Bild aus ihrem Reisepass, ihr Visum und einen Finanznachweis.
Anschließend beantworten sie Fragen, die von einem computeranimierten Grenzschutzbeamten über ein Webcam-Interview gestellt werden. Die Antworten der Antragsteller werden dabei von einem an der Manchester Metropolitan University entwickelten „Täuschungs-Erkennungssystem“ auf KI-Basis analysiert.
Kein Ersatz für menschliche Grenzschützer
Die Kommission hat bereits betont, das System werde jedoch nicht die menschlichen Grenzschutzbeamten ersetzen: „Grenzbeamte werden ein tragbares Gerät verwenden, um Informationen automatisch zu überprüfen und die während der Voruntersuchung aufgenommenen Gesichtsbilder mit Pässen und Fotos von früheren Grenzübergängen zu vergleichen.“
Die Ergebnisse werden an den Grenzkontrollstellen abgerufen, wo die Reisenden dann einer zweiten Kontrolle unterzogen werden.
„Nachdem die Dokumente des Reisenden neu bewertet und Fingerabdrücke, Handflächenvenenscans und Gesichtsabgleiche durchgeführt wurden, wird das vom Reisenden ausgehende potenzielle Risiko neu errechnet. Erst dann übernimmt ein Grenzschutzbeamter vom automatisierten System,“ so die Kommission weiter.
Auch Keeley Crockett von der Manchester Metropolitan University erklärt in einem Werbevideo für das System: „Es trifft keine vollautomatische Entscheidung. Es bietet lediglich einen errechneten Risikowert.“
Personen, die als „risikoarm“ eingestuft werden, würden dann nur einer kurzen Überprüfung ihrer Informationen für die Einreise unterzogen, während „risikoreichere Einreisende“ genauer kontrolliert werden.
Das Projekt wird aktuell in Ungarn, Griechenland und Lettland getestet.
Laut Projekt-Website gilt insbesondere ein insgesamt 175 Kilometer langer Grenzabschnitt zwischen Ungarn und Serbien als Hotspot, ebenso wie die Grenze zwischen Griechenland und Mazedonien. Das lettische Pilotprojekt umfasst derweil 31 Grenzübergänge (fünf Flughäfen, zehn Seehäfen, drei Eisenbahn- und 13 Straßen-Grenzübergänge).
Das Vereinigte Königreich, Deutschland, Polen, Spanien und Zypern haben bereits Interesse bekundet, sich nach der ersten Versuchsphase ebenfalls an dem Projekt zu beteiligen.
Genauigkeit und Verzerrung
Ein Mitglied des iBorderCtrl-Teams gab gegenüber der Fachzeitschrift New Scientist allerdings kürzlich zu, der digitale Grenzschutz habe in den ersten Tests eine Erfolgsrate von lediglich 76 Prozent vorweisen können. Das Team sei aber „ziemlich zuversichtlich“, diesen Wert bald auf 85 Prozent steigern zu können.
Dennoch weisen Kritiker darauf hin, dass es viele Faktoren gibt, die Fehler begünstigen könnten.
Bedenken hinsichtlich der Genauigkeit kommen beispielsweise auf, da die Teilnahme an den Tests freiwillig ist. Reisende, die jetzt bereit seien, mit den Behörden zusammenzuarbeiten, „wollen insbesondere ihre eigenen Grenzkontrollen beschleunigen,“ so Antoinette Rouvroy vom Forschungszentrum für Information, Recht und Gesellschaft (CRIDS).
Sie erläutert: „Unter solchen Umständen sehe ich nicht, wie verlässliche Daten erhoben werden können, um die Robustheit, Zuverlässigkeit oder Genauigkeit des Systems zu beurteilen.“ Das Verhalten der Teilnehmer, das schließlich als Grundlage für die Einführung der „Marker“ dienen soll, könnte somit recht weit von den späteren, realen Gegebenheiten abweichen.
„Oder sollen wir davon ausgehen, dass illegale Einwanderer und potenzielle Kriminelle sich heute freiwillig für die Tests zur automatischen Erkennung entscheiden? Das ist nicht sehr plausibel,“ fügt die Forscherin hinzu.
In der Vergangenheit hatten Studien darüber hinaus gezeigt, dass Gesichtserkennungsalgorithmen scheinbar „voreingenommen“ sind und insbesondere Frauen und Minderheiten überproportional negativ betreffen.
Zum Beispiel hatten Gesichtserkennungsalgorithmen von IBM, Microsoft und Face++ allein bei der Erkennung des Geschlechts bis zu 35 Prozent höhere Fehlerquoten bei Frauen mit dunklerer Haut im Vergleich zu Männern mit heller Haut, so eine Anfang des Jahres veröffentlichte Studie.
„Bevor derartige KI-Systeme in einem solchen Tätigkeitsbereich eingesetzt werden, sollte eine sorgfältige Bewertung dieser unvermeidlichen Faktoren vorgenommen werden, die mit einem System zur Erkennung, Klassifizierung und zukunftsorientierten Bewertung von Personen und Verhaltensweisen immer verbunden sind,“ fordert Rouvroy.
