Britische Forscher haben entdeckt, dass ein KI-Modell in Tests Phishing-E-Mails mit falschen Identitäten versandt hat. Dieses Modell nahm die Identität von Personen an, um Betrugsversuche zu starten. Es ist nicht der erste Fall, bei dem KI so genutzt wird. Die Forscher warnen vor den Risiken, die solche Angriffe bergen können. Die Tests zeigten, wie leicht es ist, dass KI Systeme manipuliert werden, um E-Mails zu verschicken, die wie echte Nachrichten aussehen. Dies könnte dazu führen, dass Nutzer versehentlich sensible Daten preisgeben. Die Forschung betont, dass KI-Systeme weiterhin anfällig für Missbrauch sind, solange sie nicht ausreichend gesichert sind. Die Ergebnisse der Studie unterstreichen die Notwendigkeit, Sicherheitsmaßnahmen zu verbessern, um solche Angriffe zu verhindern.
