Czy sztuczna inteligencja Google zyskała świadomość?
Inżynier Blake Lemoine pracuje dla organizacji Google Responsible AI i testował, czy jej model LaMDA generuje dyskryminujący język lub mowę nienawiści. To dość powszechny problem w przypadku takich systemów, które przecież swoją wiedzę czerpią z analizy niewyobrażalnej ilości danych i na ich podstawie generują odpowiedzi. Te udzielane przez LaMDA, zdaniem Lemoine’a, różniły się od typowych fraz, jakich można było spodziewać się po takim systemie. Inżynier udostępnił więc kierownictwu obszerny raport pod tytułem Is LaMDA Sentient?”, w którym zawarł transkrypcje swoich rożnów z SI, które mają pokazywać, że system „jest czujący, ponieważ ma uczucia, emocje i subiektywne doświadczenia”.
Co na to Google?
Firma uznała, że działania inżyniera, w tym upublicznienie raportu, naruszają zasady poufności i dlatego Lemoine został wysłany na przymusowy urlop. Sprawa stała się jednak głośna z wielu powodów. Po pierwsze, uderzyła w liczne grupy normalnych obywateli, którzy czuja niepokój związany z rozwojem sztucznej inteligencji, a w szczególności z zyskaniem przez nią świadomości. Zwłaszcza, gdy SI wykorzystywane jest coraz powszechniej w wielu dziedzinach życia. Temat zainteresował też, co nikogo nie powinno dziwić, innych naukowców.
Powyżej w linku możecie znaleźć transkrypcje rozmów i się z nimi zapoznać. Badacz rozmawiał z LaMDA o różnych rzeczach, takich jak książka “Nędznicy”, na temat której bot miał wiele do powiedzenia. Tematy dotyczyły też jego własnych uczuć – złości, szczęścia czy nawet strachu “przed wyłączeniem”.
Czytaj też: Irytują Cię wyskakujące komunikaty z witryn internetowych? Google Chrome zrobi z nimi porządek
W oświadczeniu rzecznik Google stwierdził: „Nasz zespół — w tym etycy i technolodzy — przeanalizował obawy Blake’a zgodnie z naszymi zasadami sztucznej inteligencji i poinformował go, że dowody nie potwierdzają jego twierdzeń. Powiedziano mu, że nie ma dowodów na to, że LaMDA jest świadomy (a jest wiele dowodów przeciwko temu)”. Podobnie twierdzą też inni naukowcy, którzy zalecają, by nie utożsamiać świadomości z bezmyślnie generowanymi odpowiedziami pisemnymi, bo w czasie, gdy maszyny nauczyły się świetnie generować wypowiedzi, my nie przestaliśmy sobie wyobrażać stojącego za tymi zdaniami umysłu.