Można się było tego spodziewać – odkąd Microsoft wespół z należącą do niego firmą OpenAI otworzyli puszkę Pandory ze swoim modelem językowym, Internet zalewa nieprawdopodobna ilość treści tworzonych przez generatywne AI. Odkąd Midjourney i inne generatory obrazu potrafią po wpisaniu kilku promtów stworzyć niemal dowolny obraz, Internet zalewają fałszywe grafiki na niespotykaną dotąd skalę.
Problem jednak sięga głębiej – okazuje się bowiem, że ChatGPT może służyć do jeszcze bardziej wyrafinowanych oszustw, bo np. można z jego pomocą nie tylko stworzyć produkt, ale też go wypromować, by naciągać postronnych kupujących fałszywymi recenzjami.
Chcesz się dowiedzieć, co potrafi ChatGPT? Zobacz nasze wideo na kanale Focus Technologie i daj suba!:
Fałszywe recenzje fałszywych książek zalały Amazon
Już jakiś czas temu media donosiły o istnej pladze książek wygenerowanych przez sztuczną inteligencję, która zalewa Amazon. To niestety ciemna strona KDP (Kindle Digital Publishing) i self-publishingu w największej księgarni świata, że od zawsze pojawiały się tam plagiaty i śmieciowe publikacje, ale odkąd złoczyńcy mają do dyspozycji generatywne AI, problem zyskał niespotykaną dotąd skalę.
Teraz zaś do sztucznie generowanych książek dołączyły też… sztucznie generowane recenzje. Innymi słowy, ktoś wrzuca na Amazona książkę napisaną przez ChatGPT, opatruje ją okładką stworzoną w Midjourney i okrasza recenzjami napisanymi przez ChatGPT. A potem zgarnia profity z pracy robotów.
Co na to Amazon? Otóż… nic. O ile na platformie jakiś czas temu pojawiła się opcja dodania sztucznej inteligencji jako współautora książki, tak nie jest to przez KDP wymagane ani w żaden sposób weryfikowane. Na ten moment można do woli wrzucać publikacje napisane przez sztuczną inteligencję i nikt tego nie kontroluje.
Ktoś powie – w czym problem? Czym to się różni np. od publikowania śmieciowych fanfików, które powinny pozostać w odmętach WattPada i nigdy się z nich nie wynurzyć? Ano w tym problem, że sztuczna inteligencja jest, no cóż, inteligentna i może wygenerować nie tylko setną wariację na temat Zmierzchu, ale np. stworzyć bardzo przekonującą publikację specjalistyczną, która w normalnych warunkach kosztowałaby mnóstwo pieniędzy.
Książki naukowe czy poradniki poruszające niszowe zagadnienia potrafią kosztować po kilkadziesiąt/kilkaset złotych. Bardzo trudno byłoby je podrobić oszustom własnymi siłami, ale z pomocą sztucznej inteligencji to banalna sprawa. I cyk, wystarczy taką ściemę opatrzyć fałszywymi komentarzami, wycenić nieco niżej niż „prawdziwe” książki i voila – idealna przynęta na nieświadomych kupujących.
Prawo nie nadąża za postępem. Budzimy się z ręką w nocniku
Jak to zwykle bywa, legislacja bawi się z technologią w berka i póki co ponosi sromotną klęskę. Jak grzyby po deszczu wyrastają kolejne rozwiązania korzystające z dużych modeli językowych i generatywnej sztucznej inteligencji (jak choćby te pokazane ostatnio przez Google’a), a stosownych regulacji prawnych jak nie było, tak nie ma.
The AI Act, największa tego typu inicjatywa w Europie, dopiero co ma pójść pod głosowanie. Szef OpenAI dopiero co ma się tłumaczyć przed amerykańskim Kongresem z tego, jak działa narzędzie stworzone przez jego firmę. A tymczasem GPT-4 z każdym dniem staje się mądrzejszy, a taki Midjourney potrafi już wygenerować fotorealistyczne grafiki na zawołanie.
Czytaj też: Parlament Europejski usadzi sztuczną inteligencję. Wszystko, co musisz wiedzieć o AI Act
Jedynym, co nam w obecnej sytuacji pozostaje, jest stała czujność. Dziś bardziej niż kiedykolwiek wcześniej musimy się liczyć z tym, że natrafimy w Sieci na oszustwo, a niestety z biegiem czasu te oszustwa będą coraz bardziej przekonujące. Skoro już dziś nie jest problemem sprzedać fałszywą książkę czy masowo upublicznić fałszywy obrazek, to ile tak naprawdę dzieli nas od masowego rozsyłania deep fake’ów, fałszywych wiadomości pisanych przez AI z wykorzystaniem idiolektu konkretnych osób czy wręcz tworzenia całych systemów, mających na celu wciągnięcie nas w oszustwo?
Prawdę mówiąc im dłużej się nad tym zastanawiam, tym bardziej się niepokoję. Ludzie są łatwowierni i masowo dają się nabierać takim błahostkom, jak fałszywe SMS-y z Poczty Polskiej. Aż strach pomyśleć, co będzie, gdy zetkną się z bardziej wyrafinowaną formą oszustwa.
PS. Obserwuj Focus Technologie na TikToku!