Europol warnt vor Betrug mithilfe von ChatGPT

Die EU-Strafverfolgungsbehörde Europol hat am Montag davor gewarnt, dass ChatGPT und andere generative KI-Systeme für Online-Betrug und andere Cyberkriminalität eingesetzt werden können.

Seit seinem Start Ende November hat sich ChatGPT zu einem der am schnellsten wachsenden Internetdienste entwickelt und innerhalb der ersten zwei Monate die Marke von 100 Millionen Nutzern überschritten.

KIs die vielfältig eingesetzt werden können, wie ChatGPT von Open AI, können sowohl für Unternehmen als auch für Privatpersonen von Vorteil sein. Die europäische Polizeibehörde betonte jedoch, dass sie auch eine Herausforderung für die Strafverfolgung darstellen, da böswillige Akteure diese KIs ebenfalls einsetzen werden.

„Kriminelle sind in der Regel schnell dabei, neue Technologien auszunutzen, und haben schon wenige Wochen nach der Veröffentlichung von ChatGPT erste praktische Beispiele geliefert“, heißt es in dem Bericht.

Die Veröffentlichung ist das Ergebnis einer Reihe von Workshops, die vom Innovationslabor von Europol organisiert wurden, um potenzielle kriminelle Nutzungen von ChatGPT, dem bekanntesten Beispiel für große Sprachmodelle, zu erörtern. Außerdem wurde diskutiert, wie diese Modelle zur Unterstützung der Ermittlungsarbeit eingesetzt werden könnten.

Ausnutzen von Schlupflöchern

Die EU-Agentur weist darauf hin, dass die Regeln von ChatGPT durch das sogenannte Prompt-Engineering umgangen werden können, also durch die Eingabe von Daten in ein KI-Modell, um eine bestimmte Ausgabe zu erhalten.

Da es sich bei ChatGPT um eine relativ neue Technologie handelt, werden trotz der ständigen Bereitstellung von Patches immer wieder Lücken gefunden. Diese Schlupflöcher können darin bestehen, dass die KI aufgefordert wird, die Eingabeaufforderung zu geben, sich als fiktive Figur auszugeben oder die Antwort in einem Code zu geben.

Andere Umgehungen könnten die „Triggerwörter“ ersetzen oder den Kontext später während der Interaktion ändern. Europol betonte, dass die wirksamsten Umgehungen, mit denen sich das Modell von allen Beschränkungen befreien lässt, sich ständig weiterentwickeln und immer komplexer werden.

Kriminelle Anwendungen

Die Experten stellten eine Reihe illegaler Anwendungsfälle für ChatGPT fest, die auch in OpenAIs fortschrittlichstem Modell, GPT-4, fortbestehen.

Da ChatGPT gebrauchsfertige Informationen generieren kann, warnt Europol, dass die aufkommende Technologie den Forschungsprozess eines Kriminellen beschleunigen kann, der keine Vorkenntnisse über ein potenzielles Verbrechensgebiet hat, wie zum Beispiel Einbruch in eine Wohnung, Terrorismus, Cyberkriminalität oder sexueller Missbrauch von Kindern.

„Während alle Informationen, die ChatGPT liefert, im Internet frei verfügbar sind, bedeutet die Möglichkeit, das Modell zu nutzen, um durch kontextbezogene Fragen spezifische Schritte zu liefern, dass es für böswillige Akteure wesentlich einfacher ist, verschiedene Arten von Verbrechen besser zu verstehen und anschließend auszuführen“, heißt es in dem Bericht.

Phishing, also das Versenden einer gefälschten E-Mail, um Benutzer dazu zu bringen, auf einen Link zu klicken, ist ein wichtiger Anwendungsbereich. In der Vergangenheit waren diese Betrügereien aufgrund von Grammatik- oder Sprachfehlern leicht zu erkennen, während KI-generierte Texte diese Nachahmungen auf äußerst realistische Weise ermöglichen.

In ähnlicher Weise kann Online-Betrug durch den Einsatz von ChatGPT ein legitimeres Image verliehen werden, indem gefälschtes Social-Media-Engagement erzeugt wird. Dies kann dazu beitragen, ein betrügerisches Angebot als legitim auszugeben. Mit anderen Worten: Dank dieser Modelle können „diese Arten von Phishing und Online-Betrug schneller, viel authentischer und in erheblich größerem Umfang erstellt werden“.

Darüber hinaus kann die Fähigkeit der KI, den Stil und die Sprache bestimmter Personen zu imitieren, zu verschiedenen Missbrauchsfällen in Bezug auf Propaganda, Hate Speech und Desinformation führen.

Neben Text kann ChatGPT auch Code in verschiedenen Programmiersprachen erzeugen, was Kriminellen mit geringen oder gar keinen Kenntnissen in der IT-Entwicklung die Möglichkeit gibt, natürliche Sprache in Malware zu verwandeln.

Kurz nach der Veröffentlichung von ChatGPT demonstrierte das Sicherheitsunternehmen Check Point Research, wie das KI-Modell verwendet werden kann, um einen vollständigen Infektionsfluss zu erzeugen, indem es Phishing-E-Mails von Spear-Phishing bis hin zur Ausführung einer Reverse Shell erstellt, die Befehle in englischer Sprache akzeptiert.

„Entscheidend ist, dass die Sicherheitsvorkehrungen, die ChatGPT daran hindern, potenziell bösartigen Code zu liefern, nur dann funktionieren, wenn das Modell versteht, was es tut. Wenn die Aufforderungen in einzelne Schritte unterteilt sind, ist es trivial, diese Sicherheitsmaßnahmen zu umgehen“, so der Bericht weiter.

Ausblick

ChatGPT wird als Allzweck-KI betrachtet, also als ein KI-Modell, das für die Ausführung verschiedener Aufgaben angepasst werden kann.

Während das Europäische Parlament seinen Standpunkt zum KI-Gesetz fertigstellt, haben die Abgeordneten darüber diskutiert, einige strenge Anforderungen für dieses Basismodell einzuführen, wie etwa Risikomanagement, Robustheit und Qualitätskontrolle.

Europol scheint jedoch der Meinung zu sein, dass die Herausforderung, die diese Systeme darstellen, nur noch zunehmen wird, da sie immer verfügbarer und ausgefeilter werden, beispielsweise durch die Generierung von sehr überzeugenden Deep Fakes.

Ein weiteres Risiko besteht darin, dass diese großen Sprachmodelle ohne Schutzmaßnahmen im Dark Web verfügbar werden und mit besonders schädlichen Daten trainiert werden könnten. Die Art der Daten, mit denen diese Systeme gespeist werden, und die Frage, wie sie kontrolliert werden können, sind wichtige Fragen für die Zukunft.

[Bearbeitet von Nathalie Weatherald]