Künstliche Intelligenz (KI) bietet enorme Chancen, birgt aber auch Risiken, insbesondere im Bereich der Kriminalität. Wie der LKA-Chef von Rheinland-Pfalz, Mario Germano, der Deutschen Presse-Agentur (dpa) gegenüber erklärte, eröffnen sich durch die rasante Entwicklung der KI auch Kriminellen neue Möglichkeiten.
Germano warnt insbesondere vor dem Missbrauch von öffentlich zugänglichen Audio- und Videodateien. Mit fortschrittlicher KI könnten Kriminelle aus diesen Daten täuschend echte Audio- und Videofiles erstellen. „Dann kann einer über seine Tastatur eingeben, was der Mensch sagen soll und das in einer solchen Qualität, dass nicht zu erkennen ist, dass das gar nicht die reale Person ist“, so Germano gegenüber der dpa. Identitätsdiebstahl und die missbräuchliche Nutzung geklauter Identitäten seien denkbar. Als Beispiel nennt Germano den Fall eines Firmenchefs, der einen Mitarbeiter telefonisch anweist, Geld zu überweisen. Sowohl der Chef als auch der Mitarbeiter könnten in Zukunft mittels KI täuschend echt imitiert werden. Die Echtheit von Anrufen oder Videocalls werde dadurch immer schwieriger zu überprüfen.
Auch personalisierte Phishing- und Fake-Mails könnten durch KI perfektioniert werden. Germano nennt das Beispiel einer erfundenen Kanzlei, die mit einer gefälschten Webseite im Internet eine Erbschaft aus dem Ausland ankündigt. „Durch KI wird es den Tätern in Zukunft möglich sein, auf allen Sprachen perfekt designte Homepages zu erstellen“, warnt Germano. Die KI könne sogar angewiesen werden, die Briefe so zu formulieren, dass sie größtmögliche Glaubwürdigkeit erreichen. Auch bei Chats, eventuell sogar Voice-Chats, könne auf der anderen Seite eine KI sitzen, die perfekt mit dem Menschen kommuniziert.
Germano betont, dass vieles davon noch Zukunftsmusik sei, aber bereits jetzt zeige sich das Potenzial für Missbrauch. Auch die Entwickler von ChatGPT hätten bereits Fälle dokumentiert, in denen versucht wurde, über das Tool Malware herzustellen. KI könne beispielsweise zur Programmierung von Phishing-Software eingesetzt werden und biete Tätern damit „wahnsinnige Möglichkeiten für teilweise umsonst oder kleinen Invest“. Wie die Technology Review berichtet, nutzen Kriminelle KI bereits für Phishing, Deepfake-Audio-Betrug, das Umgehen von Identitätsprüfungen, Jailbreaking und Doxxing. Besonders besorgniserregend ist die zunehmende Verbreitung von "Jailbreak-as-a-Service", wie von Trend Micro berichtet wird. Dabei werden KI-Systeme manipuliert, um schädliche Inhalte zu generieren, beispielsweise Code für Ransomware oder Texte für betrügerische E-Mails.
Germano rät dazu, mit der Familie Codewörter zu vereinbaren, um nicht auf Enkeltricks hereinzufallen. Außerdem sollte man sich gut überlegen, welche Videos man online stellt, beispielsweise Anleitungen zur Bedienung des Rasenmähers. Der LKA-Chef spekuliert, dass es in Zukunft einen Trend zum „Digital Detox“ geben könnte, da Menschen ihre digitale Präsenz aufgrund der Risiken einschränken. Wie Fiona J. McEvoy in einem Artikel auf Medium schreibt, ist die zunehmende Abhängigkeit von komplexen Computernetzwerken eine Schwachstelle, die von Kriminellen mit KI ausgenutzt werden kann. Auch Olivier Sorgho warnt in einem Medium-Artikel vor den Gefahren von KI im Bereich der Kriminalität und betont die Notwendigkeit, Algorithmen besser zu verstehen.
Die zunehmende Nutzung von KI durch Kriminelle erfordert neue Strategien zur Bekämpfung dieser Bedrohung. Es ist wichtig, sowohl technologische als auch rechtliche Lösungen zu entwickeln, um den Missbrauch von KI einzudämmen und die Sicherheit im digitalen Raum zu gewährleisten.
Quellen:
.png)
