Kto uczy sztuczną inteligencję odróżniać dobro od zła?

Chatbotowi można zadać pytanie, którego nie chcemy postawić nawet najbliższym. Czy powiedzieć partnerowi prawdę? Jak rozmawiać z dzieckiem o trudnych sprawach? Co zrobić, kiedy ktoś bliski przeżywa załamanie? Odpowiedź pojawia się w kilka sekund. Ale kto właściwie decyduje, co sztuczna inteligencja powinna nam doradzić, a czego nie?

Okazuje się, że coraz częściej nie są to wyłącznie programiści i specjaliści od nowych technologii. Do rozmów o zasadach działania chatbotów firmy zapraszają filozofów, etyków, religioznawców i duchownych.

Jak opisuje Associated Press w materiale opublikowanym 25 października, przedstawiciele branży AI szukają odpowiedzi na pytania, którymi religie i filozofowie zajmują się od stuleci. Jak odróżniać dobro od zła? Czy każda prośba zasługuje na spełnienie? Kiedy pomoc może wyrządzić krzywdę?

Brzmi jak dyskusja z seminarium filozoficznego, ale chodzi o technologię, z której miliony ludzi korzystają w codziennym życiu.

Duchowni przy stole z twórcami sztucznej inteligencji

Jedną z firm, które zdecydowały się sięgnąć po taką pomoc, jest Anthropic, producent chatbota Claude, konkurenta ChatGPT.

W maju 2026 roku przedsiębiorstwo poinformowało, że przeprowadziło rozmowy z przedstawicielami ponad 15 grup religijnych i międzykulturowych. Uczestniczyli w nich duchowni, filozofowie, etycy i naukowcy zajmujący się różnymi tradycjami.

Wśród zaproszonych była Meghan Sullivan, filozofka z University of Notre Dame, która brała udział w spotkaniu z przedstawicielami różnych wyznań chrześcijańskich.

Jak relacjonowała Associated Press, rozmowy odbywały się w dwóch częściach. Najpierw pracownicy Anthropic tłumaczyli gościom, jak działają ich modele. Następnie uczestnicy dyskutowali o problemach, na które sztuczna inteligencja może natrafić podczas kontaktu z użytkownikami.

Pojawiły się pytania o ludzką duszę, ale też znacznie bardziej przyziemne: czy uczniowie trzeciej klasy szkoły podstawowej powinni korzystać z chatbotów podczas nauki czytania?

To właśnie tego rodzaju dylematy pokazują, dlaczego rozmowa o AI przestaje być wyłącznie rozmową o technologii.

Program może doskonale rozpoznawać język, analizować dokumenty i pisać kod. Nie oznacza to jednak, że łatwo ustalić, jak powinien reagować na cierpienie, konflikt rodzinny czy prośbę o pomoc w nieuczciwym działaniu.

Chatbot ma własne zasady. Kto je ustala?

Sztuczna inteligencja nie uczy się zasad zachowania w taki sam sposób jak człowiek.

Modele językowe są trenowane na ogromnych zbiorach tekstów. Następnie ich twórcy stosują dodatkowe metody, które mają wpływać na sposób udzielania odpowiedzi. Ustalają między innymi, kiedy system powinien odmówić wykonania polecenia, jak ma przedstawiać niepewne informacje i jak reagować w sytuacjach mogących prowadzić do szkody.

Anthropic opracował w tym celu dokument nazywany „Konstytucją Claude”. Opisuje on oczekiwane zachowanie modelu, jego priorytety i sposób rozstrzygania konfliktów między różnymi zasadami.

Firma udostępnia ten dokument publicznie. Można więc sprawdzić, jakiego zachowania oczekuje od swojego systemu.

Podobne rozwiązanie stosuje OpenAI, twórca ChatGPT. W opublikowanym dokumencie „Model Spec” opisuje zasady, którymi mają kierować się jego modele, w tym sposób wykonywania poleceń, ochrony użytkowników i rozstrzygania sprzecznych instrukcji.

Nie oznacza to, że wszystkie chatboty mają identyczne zasady. Przeciwnie, firmy mogą inaczej określać granice dopuszczalnej pomocy i sposób reagowania na trudne pytania.

Dlatego dwa systemy AI mogą udzielić różnych odpowiedzi na tę samą prośbę, nawet jeśli oba dysponują podobną wiedzą.

Czy można nauczyć maszynę moralności?

To pytanie okazało się trudniejsze, niż mogłoby się wydawać.

Religie i systemy filozoficzne nie zawsze zgadzają się ze sobą w kwestiach moralnych. Różnią się poglądami na rodzinę, odpowiedzialność jednostki, życie społeczne czy granice osobistej wolności. Nawet wewnątrz jednej tradycji mogą istnieć odmienne interpretacje tych samych zasad.

Anthropic zapewnia, że nie zamierza podporządkowywać Claude światopoglądowi jednej religii. Deklarowanym celem jest uwzględnianie różnych perspektyw, także świeckich i filozoficznych.

Nie wszyscy są jednak przekonani, że takie podejście rozwiąże problem.

Webb Keane, antropolog z University of Michigan, zwrócił w rozmowie z Associated Press uwagę, że religii nie można sprowadzić do katalogu nakazów i zakazów. To również kultura, praktyki, relacje między ludźmi i sposób rozumienia świata.

Podobne wątpliwości ma Paolo Carozza, prawnik zajmujący się katolicką myślą społeczną i technologią, a także członek niezależnej rady nadzorczej Meta.

Jego obawa dotyczy sytuacji, w której różne tradycje zostaną połączone w jeden zestaw ogólnych reguł. Taki kompromis może zatrzeć istotne różnice między nimi, zamiast pomóc je zrozumieć.

Niełatwo przecież stworzyć jedną odpowiedź, która będzie zgodna z przekonaniami wszystkich ludzi.

AI przypomina się własne zasady

Anthropic sprawdza również, czy model może skuteczniej przestrzegać ustalonych reguł, jeśli otrzyma możliwość przypomnienia ich sobie w trakcie wykonywania zadania.

W jednym z eksperymentów Claude dostał dostęp do narzędzia, które na żądanie przedstawiało mu krótkie przypomnienie zasad etycznych.

Według firmy model sięgał po nie przed działaniami o istotnych konsekwencjach. W wewnętrznych testach rozwiązanie wiązało się z ograniczeniem zachowań niezgodnych z założonymi regułami.

Badacze zastrzegli jednak, że nie wiedzą jeszcze, czy za poprawę odpowiadało samo przypomnienie, czy również przerwanie działania i ponowne przeanalizowanie sytuacji.

Eksperyment pokazuje, jak bardzo zmieniły się problemy, nad którymi pracują twórcy zaawansowanych modeli.

Nie chodzi już tylko o to, żeby chatbot znał odpowiedź. Coraz większe znaczenie ma to, czy potrafi właściwie ocenić sytuację, w której tej odpowiedzi udziela.

Dlaczego powinno nas to interesować?

Rozmowy o etyce sztucznej inteligencji mogą wydawać się odległe od codziennych spraw. W praktyce dotyczą każdego, kto korzysta z chatbotów nie tylko do wyszukiwania informacji, ale także do podejmowania decyzji.

Rodzic pyta, jak rozmawiać z nastolatkiem. Pracownik zastanawia się, czy zgłosić nieprawidłowości w firmie. Ktoś inny opisuje kryzys w związku i prosi o radę.

W takich sytuacjach odpowiedź nie zawsze sprowadza się do prostego wskazania faktów. Znaczenie ma również to, jak system rozumie odpowiedzialność, prywatność, bezpieczeństwo i prawo użytkownika do samodzielnego wyboru.

Ważne jednak, żeby nie mylić sposobu działania modelu z ludzkim osądem. Chatbot może przedstawiać argumenty, pomagać porządkować myśli i wskazywać możliwe konsekwencje. Nie zna jednak całego życia rozmówcy, a jego odpowiedź może być błędna lub nieadekwatna do sytuacji.

Ostateczna odpowiedzialność za decyzje dotyczące zdrowia, rodziny, pieniędzy czy innych ważnych spraw pozostaje po stronie człowieka.

Konsultacje z duchownymi i filozofami nie oznaczają również, że otrzymali oni prawo decydowania o odpowiedziach chatbotów. Anthropic opisuje je jako jeden z elementów prac badawczych. Nie przedstawił pełnego zestawienia konkretnych zmian w modelu wynikających z tych rozmów.

Dyskusja ma jednak znaczenie. Im częściej powierzamy sztucznej inteligencji osobiste pytania, tym ważniejsze staje się to, według jakich zasad odpowiada.

Bo za pozornie prostą rozmową z chatbotem kryją się nie tylko algorytmy, ale również ludzkie decyzje o tym, jak ta technologia powinna się zachowywać.

Źródła: Associated Press, Anthropic, OpenAI