AI skutecznie wykryje fałszywki, stworzone przez AI
Naukowcy z National Yang Ming Chiao Tung University, Chung Hua University i National Ilan University opracowali niedawno nowy multimodalny model, który może pomóc w szybkim wykrywaniu fałszywych wiadomości online. Model ten, przedstawiony w artykule opublikowanym w Science Progress, może identyfikować fałszywe wiadomości poprzez przetwarzanie zarówno zbioru danych tekstowych, jak i wizualnych.
Zgodnie z podanymi informacjami, w dotychczasowej literaturze skupiano się przede wszystkim na analizowaniu pojedynczych cech fałszywych wiadomości, zupełnie ignorując multimodalność. Tymczasem podejście multimodalne, w którym do analizy bierze się zarówno warstwę tekstową, jak i graficzną znacznie poprawia skuteczność rozpoznawania.
Opracowany przez naukowców alternatywny model analizuje cały zestaw danych przy użyciu różnych strategii fuzji: w tym wczesnej fuzji, wspólnej fuzji i technik późnej fuzji. Do testów wykorzystano zbiory danych Gossopcop i Fakeddit, które często wykorzystywane są do trenowania modeli wykrywania fałszywek. Zgodnie z informacjami naukowców, modele jednomodalne osiągały podczas testów dokładność odpowiednio 72% i 65%, niewystarczającą do praktycznych zastosowań.
Tymczasem testy nowego modelu multimodalnego na tych samych zbiorach danych wykazały dokładność odpowiednio 85% i 90%, wykazując tym samym potencjał zastosowanych technik. “Proponowana struktura przetwarza informacje tekstowe i wizualne poprzez czyszczenie danych i ekstrakcję cech przed klasyfikacją” – napisali Lin, Chen i ich koledzy.
Wyniki osiągnięte przez ich model zostały określone jako „obiecujące” – po wytrenowaniu go na większym zbiorze danych treningowych i na danych rzeczywistych skuteczność i wydajność modeli może być już wystarczająca, by praktycznie zwalczać dezinformację i ograniczyć roznoszenie się fałszywek. Z pewnością sukces mógłby też zachęcić inne uczelnie i zespoły do opracowania konkurencyjnych modeli.
Więcej informacji: Szu-Yin Lin et al, Text-image multimodal fusion model for enhanced fake news detection, Science Progress (2024). DOI: 10.1177/00368504241292685.
Zobacz też: Nowy model iPhone’a przyniesie kluczowe zmiany dla całej przyszłorocznej serii