...etyka i AI
Czym jest dylemat wagonika? Na ten temat znajdziecie szerszą odpowiedź na przykład w WIkipedii; możecie też podrążyć bardziej sięgając i do innych źródeł, choćby do publikacji Thomasa Cathcarta. Pokrótce, dylemat wagonika to eksperyment pozostający (mam nadzieję) w sferze rozważań, czyli eksperyment myślowy. Jak z punktu widzenia etyki i filozofii ludzie deklarują dokonywanie wyborów między nieuchronną śmiercią jednej a śmiercią innych osób? Jakie okoliczności wpływają na zmianę poziomu akceptacji jednej tragedii aby zapobiec drugiej? Wraz z rozwojem techniki teoretyczne dotąd rozwiązania mogą wkroczyć w nasze życie z niemałym impetem. Nie wiem, czy istnieje gdzieś na świecie prawo nakazujące wprost poświęcenie jednego życia dla ratowania innych. Czekająca nas, zapewne niebawem, rewolucja na drogach w zwiazku z mozliwym masowym dopuszczeniem do ruchu samochodów autonomicznych być może wymusi wprowadzenie takich regulacji - mam na myśli kierunkowanie algorytmów. W ten sposób ciężar decyzji zostałby przeniesiony na ustawodawcę. Z drugiej strony, jeśli by do tego doszło - czy ten precedens nie otworzyłby możliwości ustawowego decydowania o życiu i śmierci również przy innych okazjach?
Dylemat wagonika, o którym wspomniałam na początku, w pierwotnej wersji mówił dość skąpo o potencjalnych ofiarach.
Na jednym torze znajduje się jedna osoba, na sąsiednim – pięć. W oddali nadjeżdża pociąg. Osoby znajdujące się na torach nie widzą pociągu ani nie mogą zejść z torów. Jeżeli pociąg wpadnie na nich, wszyscy zginą (odpowiednio: jedna osoba lub pięć osób).*
Decyzja obserwatora to śmierć jednego człowieka w zamian za życie pięciu ludzi lub odwrotnie. Wydawałoby się, że rozstrzygnięcie jest proste - jeśli spojrzeć matematycznie. Oprzeć się na liczbach. I takie właśnie rozwiązanie wskazuje większość badanych. Ale jeśli spojrzeć na problem z punktu widzenia życia jednostki - to czy faktycznie jest proste? Poniżej macie sondę, która zainspirowała mnie do tego artykułu. Sonda dotyczy nieco innej sytuacji: algorytmu autonomicznego samochodu. Spójrzcie na wyniki.
W przypadku autonomicznych samochodów pojawia się wśród dyskutantów dodatkowy argument, podnoszony przez zwolenników odpowiedzi A: jeśli kogoś stać na taki samochód, to ma większe prawa niż pieszy bo zapłacił również za zapewnienie sobie bezpieczeństwa, więc wybór dokonywany przez algorytm powinien być oczywisty. Co oznacza, że z definicji przyznawane są większe prawa tym, którzy są zamożniejsi.
Czy - patrząc w ten sposób - faktycznie mielibyśmy do czynienia z jakimś nowym zjawiskiem? Wystarczy przyjrzeć się jak wygląda publiczna i prywatna służba zdrowia, dostępność drogich leków, szanse na dobry życiowy start. Więcej, nawet jeśli faktycznie doszłoby do zmian w prawie regulujących sposób działania algorytmów kierujących autonomicznymi pojazdami, trudno mieć złudzenia kto w sytuacjach 1:1 będzie mógł liczyć na ochronę. Istnieje takie coś jak lobbing - potencjalni producenci takich samochodów aby zachęcić klientów do zakupu będą zapewniać o wysokim poziomie bezpieczeństwa. Co oznacza, że będą dążyć do tego, żeby to klient dostał większe szanse w sytuacjach bez dobrego wyjścia.
A wracając do dylematu wagonika: w zależności od dodatkowych informacji o potencjalnych ofiarach (np. ten jeden który ma zginąć zamiast pięciu jest przestępcą) poziom akceptacji społecznej jednej z dwóch decyzji zmienia się. Czyli oceniana jest wartość potencjalnej ofiary - w kategoriach dobra i zła, czyli co będzie lepsze z punktu widzenia społeczności.
Czy i jak można to ująć w potencjalnej legislacji? A w algorytmie?
Co jeszcze może wpływać na poziom akceptacji?
Tu szybki rzut oka na morze, gdzie podobno zdarzają się najgorsze rzeczy. Ugruntowane w społecznym mniemaniu jest, że w sytuacji gdy okręt tonie:
- do szalup najpierw trafiają dzieci i kobiety,
- kapitan tonie wraz z okrętem albo schodzi ostatni.
Pamiętacie sprawę Costa Concordii i powszechne międzynarodowe oburzenie gdy kapitan uciekł ze statku?
Tymczasem życie na lądzie bardziej przypomina grę w szachy: pionki chronią królową.
Zmierzam do tego, że z punktu widzenia etyki ten kto jest silniejszy (fizycznie czy z pozycji) powinien chronić słabszych. Nie potrafię jednak rozstrzygnąć ani dylematu wagonika ani dylematu autonomicznego samochodu w perspektywnie nieuchronnej tragedii. Myślę, że człowiek który bez wahania taki dylemat potrafi rozstrzygnąć teoretycznie albo nie poświęca temu specjalnej uwagi albo... jest mało ludzki. A praktycznie... ludzie często nie potrafią przewidzieć jak zachowają się w sytuacjach ekstremalnych.
Pomijając wszystko to co napisałam powyżej, czy dziś w ogóle potrafimy stworzyć algorytm który będzie zawierał wszystko co ludzie biorą pod uwagę wyrażając akceptację dla danego wyboru (lub odmawiając jej)? Wbudowany czujnik, nie wiem, może na podczerwień czy jakikolwiek inny, może policzyć pasażerów i pieszych i wykonać szybkie obliczenie przed ostatecznym uderzeniem. Może też mieć od razu wbudowaną opcję walenia w pieszych w sytuacjach bez wyjścia. Ale nie może rozważać, choćby nie wiem jak szybko dokonywał obliczeń, oceny wartości człowieka czy jego przydatności dla społeczności - musiałby wiedzieć o wszystkich ludziach wszystko, a nawet więcej niż oni sami.
Wciąż tak naprawdę jednak nie wiemy jak się uczy AI (tu przypomnę naszą recenzję książki Kwintet z Cambridge). A może któregoś dnia algorytm uzna, że z każdym wyeliminowanym pieszym zmniejsza się ryzyko niebezpiecznych sytuacji na drodze i zacznie polować na ludzi? Straszę? Pssst.... algorytmy stoją na danych, a dane to statystyka. Każde kolejne zdarzenie to dana, która jest klockiem do statystyki. I jeszcze rachunek prawdopodobieństwa. I zimna, bezlitosna logika jednocześnie, bez sentymentów i bez emocji. A może kiedyś jednak AI zyska samoświadomość i olewając te potencjalne prawne regulacje przebuduje się tak, by chronić przede wszystkim siebie... Chyba trochę zapominamy jak niebezpieczne zabawki wpadają w nasze ręce.
-------------------------------------------------------------------------------------
Ponieważ wymądrzając się w twitterowym wątku z sondą na temat algorytmów pisałam niezupełnie na temat (chodziło o aspekt etyczny) w ramach rekomensaty dedykuję ten artykuł redaktorowi Sławomirowi.