85% skuteczności w wykrywaniu fake newsów. Naukowcy opracowali nowe narzędzie

Rozwój multimodalnych modeli AI, zdolnych do tworzenia realistycznych tekstów, zdjęć, nagrań audio i video doprowadził do sytuacji, w których rozpoznanie nieprawdziwej informacji może stanowić niemały problem. Czym to się może skończyć, przekonali się niedawno mieszkańcy Dublina, który na próżno czekali na wymyśloną przez AI paradę halloweenową, a to jest jeszcze stosunkowo niegroźna sprawa. Okazuje się jednak, że w wykrywaniu fałszywek stworzonych przez AI może pomóc… także AI.
85% skuteczności w wykrywaniu fake newsów. Naukowcy opracowali nowe narzędzie

AI skutecznie wykryje fałszywki, stworzone przez AI

Naukowcy z National Yang Ming Chiao Tung University, Chung Hua University i National Ilan University opracowali niedawno nowy multimodalny model, który może pomóc w szybkim wykrywaniu fałszywych wiadomości online. Model ten, przedstawiony w artykule opublikowanym w Science Progress, może identyfikować fałszywe wiadomości poprzez przetwarzanie zarówno zbioru danych tekstowych, jak i wizualnych.

AI fusion

Zgodnie z podanymi informacjami, w dotychczasowej literaturze skupiano się przede wszystkim na analizowaniu pojedynczych cech fałszywych wiadomości, zupełnie ignorując multimodalność. Tymczasem podejście multimodalne, w którym do analizy bierze się zarówno warstwę tekstową, jak i graficzną znacznie poprawia skuteczność rozpoznawania.

Opracowany przez naukowców alternatywny model analizuje cały zestaw danych przy użyciu różnych strategii fuzji: w tym wczesnej fuzji, wspólnej fuzji i technik późnej fuzji. Do testów wykorzystano zbiory danych Gossopcop i Fakeddit, które często wykorzystywane są do trenowania modeli wykrywania fałszywek. Zgodnie z informacjami naukowców, modele jednomodalne osiągały podczas testów dokładność odpowiednio 72% i 65%, niewystarczającą do praktycznych zastosowań.

Tymczasem testy nowego modelu multimodalnego na tych samych zbiorach danych wykazały dokładność odpowiednio 85% i 90%, wykazując tym samym potencjał zastosowanych technik. “Proponowana struktura przetwarza informacje tekstowe i wizualne poprzez czyszczenie danych i ekstrakcję cech przed klasyfikacją” – napisali Lin, Chen i ich koledzy.

Wyniki osiągnięte przez ich model zostały określone jako „obiecujące” – po wytrenowaniu go na większym zbiorze danych treningowych i na danych rzeczywistych skuteczność i wydajność modeli może być już wystarczająca, by praktycznie zwalczać dezinformację i ograniczyć roznoszenie się fałszywek. Z pewnością sukces mógłby też zachęcić inne uczelnie i zespoły do opracowania konkurencyjnych modeli.

Więcej informacji: Szu-Yin Lin et al, Text-image multimodal fusion model for enhanced fake news detection, Science Progress (2024). DOI: 10.1177/00368504241292685.

Zobacz też: Nowy model iPhone’a przyniesie kluczowe zmiany dla całej przyszłorocznej serii