Ein KI-Chatbot von Meta konnte von Dritten mit simplen Aufforderungen dazu benutzt werden, um die Kontrolle über beliebige Accounts auf Instagram zu übernehmen. Details dazu wurden jetzt bekannt, nachdem unter anderem ein altes Konto des Weißen Hauses unter Barack Obama iranische Propaganda geteilt hat. Ob es einen Zusammenhang gibt, ist aber unbekannt. Öffentlich gemacht wurde der Angriffsweg vom US-Techmagazin 404 Media, das sich auf Telegram-Gruppen von Sicherheitsforschern und Hackinggruppen beruft. Der Instagram-Konzern Meta hat bereits reagiert, der Konzernsprecher versicherte auf X: „Das Problem wurde behoben und wir sichern betroffene Accounts.“

Erschreckend simple Methode

Für die Accountübernahme musste man dem Bericht zufolge lediglich per VPN vortäuschen, dass man sich in etwa in der Heimatregion der Person befindet, deren Instagram-Account gekapert werden soll. Als Nächstes konnte ein KI-Chatbot für Supportanfragen aufgefordert werden, den gewünschten Account mit einer neuen E-Mail zu verbinden und dann einen Code zum Zurücksetzen des Passworts dorthin zu senden. Dem sei der Chatbot nachgekommen, berichtet 404 Media. Wie oft solche Angriffe tatsächlich erfolgreich durchgeführt wurden, ist unklar. Auf dem Kurznachrichtendienst X hat aber etwa die bekannte App-Forscherin Jane Manchun Wong erklärt, dass mit dieser Methode das Passwort ihres Accounts geändert wurde.

Meta hat erst im März einen KI-Assistenten für Supportanfragen freigeschaltet, der auf Facebook und Instagram rund um die Uhr bei Problemen helfen sollte. Der Konzern hat damals erklärt, dass die KI dabei helfen soll, „dein Passwort zu aktualisieren und die Einstellungen im Profil zu verändern“. Der KI-Assistent sei darauf ausgelegt, Probleme mit einem Account zu lösen und nicht nur Vorschläge zu machen, hieß es damals. 404 schreibt nun, dass auf Telegram lange Listen mit Accountnamen herumgereicht worden seien, die angeblich über die Ausnutzung dieser Funktion übernommen wurden. Überprüfen lässt sich das aber nicht. Die Angriffsmethode zeige das enorme Risiko, das mit der Auslagerung des technischen Supports an KI-Technik verbunden sei, schreibt das Portal noch.

(mho)