Um auf immer ausgefeiltere Cyberangriffe zu reagieren, bei denen inzwischen künstlich erzeugte Stimmen und Videos zur Täuschung von Gesprächspartnern eingesetzt werden, entwickelt das Redmonder Unternehmen derzeit eine neue Sicherheitsfunktion. Diese Initiative zielt darauf ab, Benutzer vor potenziellen Cyberkriminellen zu schützen, die versuchen, sich als jemand anderes auszugeben, oder sogar vor Kandidaten, die ihre Fähigkeiten während eines Vorstellungsgesprächs mithilfe von Synthesetechnologien aufblähen.

Warum ist eine solche Maßnahme unerlässlich?

Das Problem des Identitätsdiebstahls ist nicht neu, aber die Demokratisierung der generativen künstlichen Intelligenz hat die Produktion überzeugender gefälschter Inhalte erheblich erleichtert. Unternehmen sind zu Hauptzielen geworden, sei es durch betrügerische Kandidaten bei Ferninterviews oder bei Betrügereien, die darauf abzielen, vertrauliche Informationen oder Gelder zu stehlen.

Bereits im Jahr 2022 warnte das FBI davor, dass Kriminelle diese Technologien nutzen würden, um persönliche Daten zu stehlen. Eine Gartner-Umfrage ergab, dass 6 % der Arbeitssuchenden zugaben, während eines Vorstellungsgesprächs eine Identität gestohlen zu haben. Konfrontiert mit dieser Form des BetrugsDas Analysehaus geht davon aus, dass bis zum Jahr 2028 jedes vierte Kandidatenprofil weltweit falsche Angaben enthalten könnte.

Wie wird dieser neue Schutz in der Praxis funktionieren?

Anstatt eine eigene Technologie zu entwickeln, vertraute Microsoft auf die Expertise zertifizierter Drittanbieter. Das Unternehmen bietet eine direkte Integration in Teams und damit spezielle Tools kann Audio- und Videostreams in Echtzeit analysieren. Dieser Ansatz zielt darauf ab, ein hohes Maß an Sicherheit zu gewährleisten, ohne komplexe und sich ständig weiterentwickelnde Technologien verinnerlichen zu müssen.

Wenn diese Systeme eine Manipulation erkennen, senden sie Erkennungssignale zur Bewerbung. Für die Organisatoren der Besprechung wird dann eine Benachrichtigung angezeigtwodurch sie Zugriff auf Steuerelemente erhalten, mit denen sie reagieren können. Diese Technologie ist darauf ausgelegt, jede Art von Deepfake zu erkennenund fügt so eine zusätzliche Schutzebene zu bereits bestehenden Mechanismen hinzu, wie zum Beispiel der automatischen Blockierung externer Bots.

Deepfake.

Was sind die nächsten Schritte und die Grenzen dieses Systems?

Laut der Microsoft 365-Roadmap befindet sich die Funktion derzeit in der Entwicklung. Die Bereitstellung ist für den Monat November auf allen Plattformen geplant : Windows, macOS, Android und iOS. Derzeit hat Microsoft die Liste der zertifizierten Herausgeber, die Partner dieser Integration in Microsoft Teams sein werden, noch nicht bekannt gegeben.

Allerdings müssen wir uns der technischen Herausforderungen bewusst bleiben Dieser Technologie innewohnende Eigenschaften. Forscher des Fraunhofer-Instituts SIT weisen darauf hin, dass bestimmte Faktoren die Erkennung erschweren können. Videokomprimierung, Helligkeitsänderungen, Unschärfe, Hintergrundbewegungen oder schlechte Audioqualität können die von einem automatisierten System gesuchten Hinweise verbergen und so die Zuverlässigkeit von Warnungen beeinträchtigen.