W nowym darmowym RPG możecie przekonać AI NPC, że jesteście z nim w ciąży i potrzebujecie alimentów

Where Winds Meet znowu zrobiło szum, ale nie dzięki widowiskowym walkom czy pięknym lokacjom. Tym razem uwagę przyciągnął system dialogów oparty na AI, który pozwala pisać własne kwestie, zamiast klikać liniowe odpowiedzi. Jak łatwo się domyślić, gracze natychmiast postanowili sprawdzić, jak bardzo da się go złamać. Wynik? Jeden z NPC zachował się jak postać z dramatu rodzinnego, a nie z gry akcji.

Manipulacja AI i dramat w trzech aktach w Where Winds Meet

Cała historia zaczęła się od użytkownika Misterzan25, który podszedł do NPC o imieniu Zhao Dali i zaczął prowadzić z nim rozmowę. Zamiast standardowych pytań wybrał jednak znacznie bardziej absurdalny kierunek. Wmówił Zhao, że jego postać jest z nim w ciąży. Gra nie zakwestionowała tego w żaden sposób. NPC wszedł w rolę natychmiast, a nowe linie dialogowe zaczęły układać się w dramat o poczuciu winy. W pewnym momencie Zhao nazwał siebie nie ojcem, lecz porażką, a gra opisywała, że płacze niekontrolowanie.

Anybody else mentally break the Zhao Dali A.I. just to see if you could?
byu/MisterZan25 inWhereWindsMeet

Później gracz poszedł jeszcze dalej. Zażądał alimentów, a następnie poinformował NPC-a, że ich fikcyjne dziecko zmarło. System AI nie potrafił rozpoznać manipulacji i zaczął produkować coraz bardziej emocjonalne reakcje. To pokazuje, jak bardzo chatbotowy system Townside potrafi wymknąć się spod kontroli, tworząc ton i klimat kompletnie oderwany od reszty gry. Nie jest to efekt, którego twórcy oczekiwali. To raczej dokładnie to, co gracze będą robić, jeśli dostaną do ręki narzędzie bez ograniczeń.

Dyskusja w sieci szybko wybuchła. Niektórzy gracze śmieją się z całej sytuacji. Inni zauważają, że takie eksperymenty pokazują, dlaczego AI nie powinno być zostawiane samo sobie. Kolejne osoby zaczęły dorzucać własne pomysły, sugerując, by powiedzieć Zhao, że jest tylko postacią w grze i zobaczyć, jak zareaguje. Pojawiła się nawet propozycja, by wmówić mu, że ich rzekome dziecko wróciło jako zombie, które musi zabić.

Gdyby ktoś jeszcze miał wątpliwości, że testowanie granic AI kończy się najdziwniejszymi możliwymi historiami, Where Winds Meet właśnie dostarczyło idealny przykład. Twórcy chcieli nowatorskiego systemu komunikacji. Gracze zrobili z niego psychologiczny thriller.

Źródło: TheGamer