Maszyna moralna
Moral Machine to platforma internetowa, opracowana przez grupę Scalable Cooperation Iyada Rahwana w Massachusetts Institute of Technology , która generuje dylematy moralne i zbiera informacje o decyzjach podejmowanych przez ludzi między dwoma destrukcyjnymi skutkami. Platforma jest pomysłem Iyada Rahwana i psychologów społecznych Azima Shariffa i Jean-François Bonnefona, którzy wpadli na ten pomysł przed publikacją swojego artykułu na temat etyki samojezdnych samochodów. Głównymi współtwórcami budowy platformy byli MIT Media Lab absolwenci Edmond Awad i Sohan Dsouza.
Przedstawione scenariusze są często wariacjami problemu wózka , a zebrane informacje posłużą do dalszych badań dotyczących decyzji, jakie inteligencja maszynowa musi podejmować w przyszłości. Na przykład, ponieważ sztuczna inteligencja odgrywa coraz ważniejszą rolę w jazdy autonomicznej , projekty badawcze, takie jak Moral Machine, pomagają znaleźć rozwiązania dla trudnych decyzji dotyczących życia i śmierci, przed którymi staną pojazdy samojezdne.
Moral Machine był aktywny od stycznia 2016 do lipca 2020. Moral Machine jest nadal dostępny na ich stronie internetowej, aby ludzie mogli go doświadczyć.
Eksperyment
The Moral Machine był ambitnym projektem; była to pierwsza próba wykorzystania takiego eksperymentalnego projektu do przetestowania dużej liczby ludzi w ponad 200 krajach na całym świecie. Badanie zostało zatwierdzone przez Institute Review Board (IRB) w Massachusetts Institute of Technology (MIT).
Konfiguracja eksperymentu wymaga od widza podjęcia decyzji w sprawie pojedynczego scenariusza, w którym samojezdny samochód ma uderzyć w pieszych. Użytkownik może zdecydować, czy samochód skręci, aby uniknąć zderzenia z pieszymi, albo jedzie prosto, aby ocalić życie, które przewozi.
Uczestnicy mogą realizować dowolną liczbę scenariuszy, jednak same scenariusze są generowane w trzynastoosobowych grupach. W ramach tych trzynastu jeden scenariusz jest całkowicie losowy, podczas gdy pozostałe dwanaście jest generowanych z przestrzeni w bazie danych zawierającej 26 milionów różnych możliwości. Są wybierani na podstawie dwóch dylematów skupionych na każdym z sześciu wymiarów preferencji moralnych: płci postaci, wieku postaci, sprawności fizycznej postaci, statusie społecznym postaci, gatunku postaci i numerze postaci.
Konfiguracja eksperymentu pozostaje taka sama w wielu scenariuszach, ale każdy scenariusz testuje inny zestaw czynników. Przede wszystkim postacie biorące udział w scenariuszu są różne w każdym z nich. Postacie mogą obejmować takie postacie jak: Wózek, dziewczyna, chłopiec, ciężarny, lekarz, lekarka, atletka, kobieta naczelna, sportowiec, mężczyzna naczelny, duża kobieta, duży mężczyzna, bezdomny, starzec, stara kobieta, pies, przestępca i kota.
Dzięki tym różnym postaciom badacze byli w stanie zrozumieć, w jaki sposób różne osoby będą oceniać scenariusze na podstawie zaangażowanych osób.
Analiza
Analiza danych zebranych za pośrednictwem Moral Machine wykazała duże różnice we względnych preferencjach między różnymi krajami oraz korelacje między tymi preferencjami a różnymi wskaźnikami krajowymi.
Dane zostały zsyntetyzowane za pomocą połączonej analizy w celu obliczenia średniego efektu składowej krańcowej (AMCE) każdego atrybutu testowanego przez Maszynę Moralną. Atrybuty te testowały dziewięć czynników: oszczędzanie ludzi (w porównaniu ze zwierzętami domowymi), utrzymywanie kursu (w porównaniu ze skręcaniem), oszczędzanie pasażerów (w porównaniu z pieszymi), oszczędzanie większej liczby istnień ludzkich (w porównaniu z mniejszą liczbą), oszczędzanie mężczyzn (w porównaniu z kobietami), oszczędzanie młodych (w porównaniu z starszych), oszczędzanie pieszych, którzy legalnie przechodzą przez jezdnię (w przeciwieństwie do pieszych), oszczędzanie sprawnych (w porównaniu z mniej sprawnymi) i oszczędzanie osób o wyższym statusie społecznym (w porównaniu z niższym statusem społecznym). Niektóre postacie posiadały inne atrybuty (takie jak ciąża, lekarze, przestępcy itp.), które nie mieściły się w tych testowanych czynnikach.
Na całym świecie uczestnicy przedkładali ludzkie życie nad życie zwierząt, takich jak psy i koty. Chcieli oszczędzić więcej żyć niż mniej, a także chcieli oszczędzić młodsze życie w porównaniu ze starszymi. Najczęściej oszczędzano dzieci, a najmniej oszczędzano kotów. Jeśli chodzi o zróżnicowanie płciowe, lekarzom płci męskiej i starszym mężczyznom oszczędzono bardziej niż lekarzom i starszym kobietom. Podczas gdy zawodniczki i większe kobiety zostały oszczędzone bardziej niż sportowcy płci męskiej i więksi mężczyźni. Wszystkie trzy skupiska podzielały preferencje oszczędzania pieszych nad pasażerami i praworządnych ludzi nad nielegalnymi.
Klastry kulturowe
Ponieważ eksperyment był prowadzony w skali globalnej, naukowcy byli w stanie dalej analizować dane, aby zobaczyć, co cenią poszczególne kultury i regiony. Aby przeprowadzić tę szczegółową analizę, badacze przyjrzeli się 130 krajom z co najmniej 100 osobami, które przekazały dane do Morale Machine.
Naukowcom udało się rozdzielić podobne znaleziska na wiele grup regionów na ziemi, które nazwali "skupiskami kulturowymi".
Pierwszy klaster, który naukowcy nazwali klastrem zachodnim, obejmuje Amerykę Północną i europejskie kraje protestanckich, katolickich i prawosławnych grup kulturowych. Drugi klaster, zwany klastrem wschodnim, obejmuje kraje wschodnie, takie jak Japonia i Tajwan, a także kraje islamskie, takie jak Indonezja, Pakistan i Arabia Saudyjska. Trzeci klaster, zwany klastrem południowym, obejmuje kraje Ameryki Łacińskiej Ameryki Środkowej i Południowej, a także niektóre kraje z wpływami francuskimi, takie jak francuskie terytoria zamorskie, oraz te, które w pewnym momencie znajdowały się pod francuskim przywództwem.
Możliwość pokazania kulturowych klastrów informacji sugeruje, że istnieją regionalne i kulturowe wzorce moralne, które mogą pozwolić grupom terytoriów na posiadanie wspólnego standardu etycznego, jeśli chodzi o maszyny.
Klastry według regionów
Naukowcy odkryli, że klastry kulturowe różnią się pod kilkoma względami. Na przykład gromada wschodnia nie preferowała oszczędzania młodszych ludzi w porównaniu z pozostałymi dwiema gromadami i miała większe preferencje w oszczędzaniu praworządnych ludzi. Klaster zachodni miał wyższą preferencję dla bezczynności ze strony kierowcy, a zatem miał mniejszą preferencję dla oszczędzania pieszych w porównaniu z innymi klastrami. Klaster południowy bardziej preferował oszczędzanie kobiet, młodych i tych o wyższym statusie. Ci z gromady południowej znacznie bardziej preferowali oszczędzanie ludzi niż zwierzęta domowe lub inne zwierzęta. Zdecydowanie woleli również oszczędzać kobiety niż mężczyzn, a także osoby, które zostały uznane za bardziej „sprawne” w przeciwieństwie do tych, które są „niesprawne” (na przykład sportowcy zamiast „dużych” osobników).
Kultury indywidualne a kolektywistyczne
Osoby z kultur indywidualistycznych w większym stopniu preferowały oszczędzanie większej liczby osób. Może to wynikać z nacisku indywidualistycznego społeczeństwa na wartość każdej jednostki. Z drugiej strony, respondenci z kultur, które są bardziej kolektywistyczne, bardziej preferowali oszczędzanie starego życia niż młodszych. Można to prawdopodobnie wytłumaczyć priorytetem kolektywizmu dla dobra grupy nad wartością indywidualną, a także tradycją kultury kolektywistycznej polegającą na docenianiu i szanowaniu starszej populacji. Na przykład Chiny plasują się znacznie poniżej światowej średniej pod względem preferowania oszczędzania młodszych niż starszych, a także oszczędzania większej liczby istnień ludzkich niż mniejszej. Z drugiej strony przeciętny respondent z USA wykazywał znacznie większą skłonność do ratowania życia młodszych osób i większych grup.
Kraje rozwinięte vs kraje nierozwinięte
Uczestnicy z krajów mniej zamożnych i dysponujących słabszymi instytucjami wykazywali większą tendencję do oszczędzania pieszych, którzy nielegalnie przeszli przez jezdnię, w porównaniu z uczestnikami z krajów bogatszych i rozwiniętych. Jest to najprawdopodobniej spowodowane ich doświadczeniem życia w społeczeństwie, w którym jednostki są bardziej skłonne do odstępstwa od zasad ze względu na mniej rygorystyczne egzekwowanie prawa.
Nierówność ekonomiczna
Stopień równości ekonomicznej w danym kraju jest dokładnym wskaźnikiem tego, czy są one bardziej skłonne do oszczędzania osób o wysokim czy niskim statusie. Kraje o wyższym współczynniku Giniego – używanym przez Bank Światowy do pomiaru nierówności ekonomicznych w kraju – mają większe szanse oszczędzić jednostki z wyższych klas. Innymi słowy, osoba z kraju o większych nierównościach ekonomicznych byłaby bardziej skłonna oszczędzić dyrektora niż bezdomnego. Ten sam związek można zaobserwować w przypadku preferencji oszczędzania życia zamożnych nad mniej zamożnymi – kraje o wyższych nierównościach ekonomicznych zdecydowanie wolą ratować życie bogatszych od biedniejszych.
Dane źródłowe i kod do odtworzenia wyników analizy można znaleźć w istniejącej witrynie Morale Machine. Dane mogą być wykorzystywane przez innych badaczy do wyciągania różnych wniosków i analiz. Pamiętaj, aby sprawdzić źródło pod kątem problemów licencyjnych.
Zastosowania danych
Odkrycia z maszyny moralnej mogą pomóc decydentom przy projektowaniu samojezdnych systemów samochodowych. Projektanci muszą upewnić się, że pojazdy te są w stanie rozwiązać problemy na drodze, które są zgodne z wartościami moralnymi otaczających ją ludzi.
Jest to wyzwanie ze względu na złożoną naturę ludzi, którzy mogą podejmować różne decyzje w oparciu o swoje osobiste wartości. Jednak zbierając dużą liczbę decyzji podejmowanych przez ludzi z całego świata, badacze mogą zacząć rozumieć wzorce w kontekście określonej kultury, społeczności i ludzi.
Inne funkcje
Moral Machine została wdrożona w czerwcu 2016 r. W październiku 2016 r. dodano funkcję, która oferowała użytkownikom możliwość wypełnienia ankiety dotyczącej ich danych demograficznych, poglądów politycznych i przekonań religijnych. Od listopada 2016 r. do marca 2017 r. strona internetowa była stopniowo tłumaczona na dziewięć języków oprócz angielskiego (arabski, chiński, francuski, niemiecki, japoński, koreański, portugalski, rosyjski i hiszpański).
Ogólnie rzecz biorąc, Moral Machine oferuje cztery różne tryby (patrz Informacje dodatkowe), z naciskiem na funkcję gromadzenia danych na stronie internetowej, zwaną trybem Judge.
Oznacza to, że Moral Machine, oprócz dostarczania użytkownikom własnych scenariuszy do oceny, zaprasza również użytkowników do tworzenia własnych scenariuszy do przesłania i zatwierdzenia, aby inne osoby również mogły je ocenić. Dane są również udostępniane na zasadzie otwartego źródła, aby każdy mógł je eksplorować za pośrednictwem interaktywnej mapy, która jest dostępna na stronie internetowej Moral Machine.