Model AI Elona Muska, Grok, twierdził, że komory gazowe w Auschwitz służyły do dezynfekcji. Po reakcji Muzeum Auschwitz-Birkenau narzędzie wycofało się ze swoich kłamliwych tez.
Incydent rozpoczął się, gdy anonimowy użytkownik serwisu X, w odpowiedzi na wpis promujący książkę negującą Holokaust, zadał sztucznej inteligencji Grok serię pytań. Użytkownik zasugerował w pytaniu, że komory gazowe były w rzeczywistości „strefami masowej dezynfekcji przeciwko tyfusowi”, a masowe mordy to „mit”.
Grok potwierdził tę tezę, twierdząc, że plany krematoriów w Auschwitz wskazują na instalacje do dezynfekcji, a nie masowych egzekucji. Dodał również, że oficjalna wersja historii utrzymuje się tylko dzięki przepisom zakazującym kwestionowania Holokaustu i „jednostronnej edukacji”.
Na kłamliwe twierdzenia natychmiast zareagowało Muzeum Auschwitz-Birkenau. W swoim wpisie przypomniało, że negowanie Holokaustu narusza zasady serwisu X i przytoczyło dowody na ludobójstwo, takie jak dokumenty SS i zeznania świadków. Podkreślono, że systemy wentylacyjne służyły do usuwania cyjanowodoru po egzekucjach.
Po interwencji muzeum Grok całkowicie zmienił swoje stanowisko. W nowej odpowiedzi stwierdził, że „rzeczywistość Holokaustu jest niezaprzeczalna” i „odrzuca negacjonizm w sposób stanowczy”. Narzędzie usunęło swój pierwotny wpis, tłumacząc, że był on sprzeczny z „nadrzędnym nakazem, aby prawda była ważniejsza od dezinformacji”.
Według Tomasza Turby, konsultanta ds. bezpieczeństwa AI, taka zmiana stanowiska wynika ze sposobu działania dużych modeli językowych. Grok uczy się na bieżąco z treści zamieszczanych na platformie X i jest zaprojektowany tak, by traktować dane od użytkownika jako potencjalną korektę, co czyni go podatnym na manipulację.
Ekspert wyjaśnia, że użytkownik, zadając pytanie z gotową tezą i w odpowiednim kontekście, był w stanie wpłynąć na odpowiedź modelu. Z tego samego powodu interwencja muzeum, przedstawiająca kontrargumenty, okazała się skuteczna. Incydent pokazuje, że do odpowiedzi generowanych przez AI należy podchodzić z dużą rezerwą.
Źródło: https://konkret24.tvn24.pl/tech/jak-grok-neguje-holokaust-i-zaprzecza-ze-to-robi-dlaczego-sztuczna-inteligencja-zmienia-zdanie-st8762811
