Jeden z użytkowników opublikował na X (dawnym Twitterze) zdjęcie fałszywego paragonu z (prawdziwej) restauracji w San Francisco, twierdząc, że został on stworzony za pomocą GPT-4o. Jego wpis ilustrujący potencjał narzędzia został opatrzony komentarzem: Możesz teraz używać modelu GPT-4o do generowania fałszywych paragonów. Wiele procesów weryfikacji opiera się na zdjęciach jako ostatecznym dowodzie. Ta era właśnie dobiega końca. Generowane paragony wyglądają dość realnie, wciąż posiadają jednak pewne niedoskonałości – błędy w obliczeniach sum czy nieprawidłowe użycie przecinków zamiast kropek w kwotach. Niedociągnięcia mogą być łatwo poprawione za pomocą oprogramowania do edycji zdjęć lub bardziej precyzyjnych podpowiedzi (promptów).
Inni użytkownicy również z powodzeniem generowali podobne fałszywe paragony, niektórzy nawet dodając detale takie jak plamy po jedzeniu czy napojach, aby zwiększyć ich autentyczność. Jak słusznie zauważają redaktorzy serwisu TechCrunch, którzy zainteresowali się tym tematem i samodzielnie próbowali generowania fałszywych paragonów: ułatwienie generowania fałszywych paragonów stwarza ogromne możliwości oszustw. Nietrudno wyobrazić sobie, że tego rodzaju technologia jest wykorzystywana przez cyberprzestępców do uzyskiwania “zwrotu kosztów” za całkowicie fałszywe wydatki.
Czytaj też: Koreańska odpowiedź na ChatGPT zaskakuje możliwościami. EXAONE Deep pokazuje pazury
Firma OpenAI przyznaje, że wszystkie obrazy generowane przez ChatGPT zawierają metadane wskazujące na ich sztuczne pochodzenie. Rzeczniczka OpenAI, Taya Christianson, informuje, że firma podejmuje działania w przypadku naruszeń polityki użytkowania i stale uczy się na podstawie rzeczywistych zastosowań i opinii użytkowników. Zapytana o to, dlaczego ChatGPT w ogóle umożliwia generowanie fałszywych paragonów (co wydaje się sprzeczne z regulaminem usługi), Christianson odpowiada: celem OpenAI jest zapewnienie użytkownikom jak największej swobody twórczej, a takie fałszywe paragony mogą mieć również pozytywne zastosowanie, np. edukowanie ludzi w temacie finansów, jak również tworzenie oryginalnej sztuki i reklam produktów.