Sztuczna inteligencja, która wykrywa deepfake z prawie 100% precyzją

Singapurczyk Wang Weimin, pokonał 469 zespołów z całego świata w trwającym pięć miesięcy konkursie na opracowanie najlepszego modelu sztucznej inteligencji (SI) do wykrywania deepfake, czyli cyfrowo zmienionych zdjęć i klipów wideo.

Model Wanga osiągnął 98,53% dokładności w odróżnianiu prawdziwych klipów od tych, w których wykorzystano cyfrowo zmienione twarze, głosy lub oba te elementy.

Absolwent Narodowego Uniwersytetu Singapuru zajął pierwsze miejsce i otrzymał nagrodę pieniężną w wysokości 100 000 dolarów w konkursie Trusted Media Challenge zorganizowanym przez AI Singapore, krajowe biuro programu SI podlegające Narodowej Fundacji Badawczej.

Wangowi, który pracuje w chińskim gigancie technologicznym ByteDance, zaoferowano również 300 000 dolarów dotacji na rozpoczęcie działalności w celu komercjalizacji swojego wynalazku. Ma on jednak nadzieję, że uda mu się włączyć model sztucznej inteligencji do platformy BytePlus swojej firmy i zaoferować klientom wykrywanie deepfake jako usługę.

Wang twierdzi, że zdecydował się wziąć udział w konkursie, ponieważ wyzwania stojące przed mediami pokrywają się z jego zainteresowaniami badawczymi, a on sam jest bardzo zainteresowany rozwiązywaniem rzeczywistych problemów poprzez tworzenie produktów opartych na sztucznej inteligencji.

Deepfake mogą być groźne

Technologia Deepfake wykorzystuje sztuczną inteligencję do generowania wysoce realistycznych obrazów i dźwięków, które można wykorzystać do zastąpienia podobizny i głosu jednej osoby podobizną i głosem innej osoby. Jest wykorzystywana nie tylko do tworzenia treści rozrywkowych i memów internetowych, ale także w kampaniach dezinformacyjnych.

Na przykład w czasie wojny rosyjsko-ukraińskiej w Internecie rozpowszechniano propagandowe wiadomości typu deepfake, zawierające zmienione zdjęcia prezydenta Ukrainy Wołodymyra Zelenskiego.

Przemawiając podczas ceremonii wręczenia nagród, która odbyła się w piątek w NUS Institute of Data Science, minister stanu ds. komunikacji i informacji Tan Kiat How powiedział, że wyzwanie jest na czasie, biorąc pod uwagę rosnące zagrożenie fałszerstwami i ich potencjał do szerzenia dezinformacji.

Technologia nie jest tylko częścią problemu, ale może być również częścią rozwiązania.

Jednak technologia nie może być jedynym rozwiązaniem problemu dezinformacji. Musi jej towarzyszyć szerszy zestaw środków stosowanych w całym społeczeństwie.

Jednym z takich środków jest stworzenie silnego jądra lokalnych organizacji medialnych, które cieszą się zaufaniem widzów i czytelników.

Nasze lokalne media informacyjne muszą odgrywać ważną rolę jako zaufani rozmówcy na globalnym rynku idei, aby informować i angażować naszych obywateli.

Stanowią one wiarygodne źródło informacji dla naszych obywateli w przestrzeni internetowej, gdzie czasami nie jest jasne czy dana informacja jest prawdziwa, czy fałszywa – powiedział Tan

SI ze specjalizacją w deepfake z Azji

Wyzwanie, które trwało od 15 lipca do 15 grudnia zeszłego roku, było wspierane przez lokalne media głównego nurtu – The Straits Times i Mediacorp’s CNA, które dostarczyły do zbioru danych szkoleniowych autentyczne klipy wideo z wiadomościami i wywiadami, w których występowały głównie osoby z Azji. To właśnie odróżnia singapurski konkurs od podobnych zmagań organizowanych przez organizacje amerykańskie i europejskie, w których zestawy danych zawierają głównie osoby rasy kaukaskiej.

Konkurencja była zacięta, a zespoły, które zajęły drugie i trzecie miejsce, stworzyły modele sztucznej inteligencji o dokładności przekraczającej 98 procent.

Źródło: The Straits Times