Microsoft opracował nowy sposób na wykrywanie deepfake

Microsoft opracował nowy sposób na wykrywanie deepfake

6 września 2020 0 przez Jakub Kornacki

Microsoft Video Authenticator to nowe narzędzie opracowane przez specjalistów potentata IT z Redmond. Oprogramowanie wykorzystując sztuczną inteligencję jest w stanie odpowiedzieć człowiekowi na ważne pytanie. Czy wideo, które oglądam nie jest fałszywką? Umożliwia wykrywanie deepfake.

Deepfake to potężne narzędzie manipulacji opiniami milionów. Spójrzcie choćby na ten materiał. Nie będzie przesady w stwierdzeniu, że sprytne użycie tej technologii to nie tylko „żarty wideo” w sieci. To również środek do wymuszenia spadku cen akcji jakiegoś koncernu, czy zmiany układu sił politycznych przed wyborami. Scenariuszy może być wiele, ogranicza je tylko wyobraźnia i kręgosłup moralny (a raczej jego brak) osób, które wykorzystują deepfake do siania dezinformacji. To oznacza, że wykrywanie deepfake jest nam potrzebne

Ludzkość otrzymała właśnie nowe narzędzie do walki z cyfrowo przetwarzaną dezinformacją. Microsoft poinformował o opracowaniu programu Microsoft Video Authenticator. Aplikacja współpracując ze sztuczną inteligencją jest w stanie powiedzieć użytkownikowi, jakie jest prawdopodobieństwo, że oglądany materiał jest fałszywy. Inteligentne algorytmy wykrywają charakterystyczne dla deepfake niuanse kadru. Subtelne blaknięcia, dziwne przejścia kolorystyczne, czy inne charakterystyczne zmiany, których ludzkie oko nie dostrzega.

Microsoft Video Authenticator działa zarówno na strumieniach wideo, jak i statycznych obrazach (fot. Microsoft)

Opracowana przez Microsoft Research technologia pozwoli zarówno na wykrywanie deepfake, jak też umożliwi zagwarantowanie, że to, co w danym momencie oglądamy, jest prawdziwym przekazem. Narzędzie to jest wbudowane w Microsoft Azure, co ma pozwolić twórcom treści dodawać certyfikaty prawdziwości danego materiału w metadanych.

Drugim elementem jest działający po stronie użytkownika/czytelnika czytnik tych metadanych i weryfikator treści. Może być on wbudowany w przeglądarkę. Narzędzie nie tylko potwierdza autentyczność treści, ale też daje nam informację, kto odpowiada za jej produkcję. Tym samym Microsoft Video Authenticator może być środkiem pozwalającym wiarygodnym mediom budować zaufanie do tworzonych przez nie treści. Microsoft zachęca też do wzięcia udziału w quizie, który pokazuje jak trudno jest człowiekowi odróżnić zmanipulowane treści od prawdziwych.