Zautomatyzowane podejmowanie decyzji

Zautomatyzowane podejmowanie decyzji ( ADM ) wiąże się z wykorzystaniem danych, maszyn i algorytmów do podejmowania decyzji w różnych kontekstach, w tym w administracji publicznej , biznesie, zdrowiu, edukacji, prawie, zatrudnieniu, transporcie, mediach i rozrywce, z różnym stopniem ingerencji człowieka nadzór lub interwencja. ADM obejmuje dane na dużą skalę z różnych źródeł, takich jak bazy danych, tekst, media społecznościowe, czujniki, obrazy lub mowa, które są przetwarzane przy użyciu różnych technologii, w tym oprogramowania komputerowego, algorytmów, uczenia maszynowego, przetwarzania języka naturalnego , sztucznej inteligencji , rozszerzonej inteligencja i robotyka . Rosnące wykorzystanie zautomatyzowanych systemów podejmowania decyzji (ADMS) w różnych kontekstach niesie ze sobą wiele korzyści i wyzwań dla społeczeństwa ludzkiego, co wymaga rozważenia konsekwencji technicznych, prawnych, etycznych, społecznych, edukacyjnych, ekonomicznych i zdrowotnych.

Przegląd

Istnieją różne definicje ADM w zależności od poziomu automatyzacji. Niektóre definicje sugerują, że ADM obejmuje decyzje podejmowane za pomocą środków czysto technologicznych bez udziału człowieka, takich jak ogólne rozporządzenie UE o ochronie danych (art. 22). Jednak technologie i aplikacje ADM mogą przybierać różne formy, począwszy od systemów wspomagania decyzji , które wydają decydentom zalecenia dotyczące działania, czasami określane jako rozszerzona inteligencja lub „wspólne podejmowanie decyzji”, po w pełni zautomatyzowane procesy decyzyjne, które podejmują decyzje w imieniu osób lub organizacji bez udziału człowieka. Modele stosowane w zautomatyzowanych systemach podejmowania decyzji mogą być tak proste, jak listy kontrolne i drzewa decyzyjne , aż po sztuczną inteligencję i głębokie sieci neuronowe (DNN).

Od lat 50. XX wieku komputery przestały być zdolne do wykonywania podstawowego przetwarzania, a stały się zdolne do wykonywania złożonych, niejednoznacznych i wysoce wymagających zadań, takich jak rozpoznawanie obrazów i mowy, granie w gry, analizy naukowe i medyczne oraz wnioskowanie z wielu źródeł danych. ADM jest obecnie coraz częściej wdrażany we wszystkich sektorach społeczeństwa i wielu różnych dziedzinach, od rozrywki po transport.

System ADM (ADMS) może obejmować wiele punktów decyzyjnych, zestawów danych i technologii (ADMT) i może znajdować się w większym systemie administracyjnym lub technicznym, takim jak system sądownictwa karnego lub proces biznesowy.

Dane

Zautomatyzowane podejmowanie decyzji obejmuje wykorzystanie danych jako danych wejściowych do analizy w ramach procesu, modelu lub algorytmu albo do uczenia się i generowania nowych modeli. Systemy ADM mogą wykorzystywać i łączyć szeroką gamę typów danych i źródeł w zależności od celów i kontekstów systemu, na przykład dane z czujników dla samojezdnych samochodów i robotyki, dane dotyczące tożsamości dla systemów bezpieczeństwa, dane demograficzne i finansowe dla administracji publicznej, dokumentacja medyczna w zakresie zdrowia, rejestry karne w prawie. Może to czasem wiązać się z ogromnymi ilościami danych i mocą obliczeniową.

Jakość danych

Jakość danych, które są dostępne i które można wykorzystać w systemach ADM, ma fundamentalne znaczenie dla wyników i często jest bardzo problematyczna z wielu powodów. Zbiory danych są często bardzo zmienne, dane na dużą skalę mogą być kontrolowane przez korporacje lub rządy, ograniczone ze względów prywatności lub bezpieczeństwa, niekompletne, stronnicze, ograniczone pod względem czasu lub zasięgu, mierzenia i opisywania terminów na różne sposoby i wiele innych problemów.

Aby maszyny mogły uczyć się na podstawie danych, często wymagane są duże korpusy, które mogą być trudne do uzyskania lub obliczenia, jednak tam, gdzie są dostępne, przyniosły znaczący przełom, na przykład w diagnozowaniu prześwietleń klatki piersiowej.

Technologie ADM

Technologie zautomatyzowanego podejmowania decyzji (ADMT) to kodowane programowo narzędzia cyfrowe, które automatyzują tłumaczenie danych wejściowych na dane wyjściowe, przyczyniając się do funkcjonowania zautomatyzowanych systemów decyzyjnych. W aplikacjach i systemach ADM wykorzystywanych jest wiele różnych technologii.

ADMT obejmujące podstawowe operacje obliczeniowe

  • Wyszukiwanie (w tym 1-2-1, 1-2-wiele, dopasowywanie/łączenie danych)
  • Dopasowanie (dwie różne rzeczy)
  • Obliczenia matematyczne (wzór)

ADMT do oceny i grupowania:

ADMT odnoszące się do przestrzeni i przepływów:

ADMT do przetwarzania złożonych formatów danych

Inne ADMT

Nauczanie maszynowe

Główny artykuł: Uczenie maszynowe

Uczenie maszynowe (ML) obejmuje szkolenie programów komputerowych poprzez kontakt z dużymi zbiorami danych i przykładami, aby uczyć się na podstawie doświadczenia i rozwiązywać problemy. Uczenie maszynowe może być wykorzystywane do generowania i analizowania danych, a także wykonywania obliczeń algorytmicznych i zostało zastosowane do rozpoznawania obrazów i mowy, tłumaczeń, tekstu, danych i symulacji. Chociaż uczenie maszynowe istnieje już od jakiegoś czasu, staje się coraz potężniejsze dzięki niedawnym przełomom w szkoleniu głębokich sieci neuronowych (DNN) oraz dramatycznemu wzrostowi pojemności przechowywania danych i mocy obliczeniowej dzięki koprocesorom GPU i przetwarzaniu w chmurze.

Systemy uczenia maszynowego oparte na modelach podstawowych działają w głębokich sieciach neuronowych i wykorzystują dopasowywanie wzorców do uczenia jednego ogromnego systemu na dużych ilościach ogólnych danych, takich jak tekst i obrazy. Wczesne modele zwykle zaczynały od zera dla każdego nowego problemu, jednak od początku lat 20. XX wieku wiele z nich można dostosować do nowych problemów. Przykłady tych technologii obejmują DALL-E firmy Open AI , program do tworzenia obrazów i model języka GPT oraz program modelu języka PaLM firmy Google.

Aplikacje

ADM jest używany do zastąpienia lub usprawnienia podejmowania decyzji przez ludzi zarówno w organizacjach sektora publicznego, jak i prywatnego z wielu powodów, w tym w celu zwiększenia spójności, poprawy wydajności, obniżenia kosztów i umożliwienia nowych rozwiązań złożonych problemów.

Debata

Trwają prace badawczo-rozwojowe nad wykorzystaniem technologii do oceny jakości argumentów, oceniania esejów argumentacyjnych i oceniania debat. Potencjalne zastosowania tych technologii argumentacji obejmują edukację i społeczeństwo. Scenariusze, które należy rozważyć w tym zakresie, obejmują te, które obejmują ocenę argumentacji i debaty konwersacyjnej , matematycznej , naukowej , interpretacyjnej , prawnej i politycznej .

Prawo

W systemach prawnych na całym świecie narzędzia algorytmiczne, takie jak instrumenty oceny ryzyka (RAI), są wykorzystywane w wielu kontekstach w celu uzupełnienia lub zastąpienia ludzkiego osądu sędziów, urzędników służby cywilnej i funkcjonariuszy policji. W Stanach Zjednoczonych RAI są wykorzystywane do generowania wyników w celu przewidywania ryzyka recydywy w areszcie przedprocesowym i orzeczeń skazujących, oceny zwolnienia warunkowego dla więźniów oraz przewidywania „gorących punktów” przyszłych przestępstw. Wyniki te mogą powodować automatyczne skutki lub mogą być wykorzystywane do podejmowania decyzji przez urzędników wymiaru sprawiedliwości. W Kanadzie ADM jest używany od 2014 roku do automatyzacji niektórych czynności wykonywanych przez urzędników imigracyjnych oraz do wspierania oceny niektórych wniosków imigrantów i gości.

Ekonomia

Zautomatyzowane systemy transakcyjne wykorzystują programy komputerowe do tworzenia zleceń kupna i sprzedaży oraz automatycznego przesyłania zleceń do centrów rynkowych lub giełd . Programy komputerowe mogą automatycznie generować zlecenia w oparciu o predefiniowany zestaw reguł przy użyciu strategii handlowych opartych na analizach technicznych, zaawansowanych obliczeniach statystycznych i matematycznych lub danych wejściowych z innych źródeł elektronicznych.

Biznes

Ciągłe audyty

Audyt ciągły wykorzystuje zaawansowane narzędzia analityczne do automatyzacji procesów audytowych . Może być stosowany w sektorze prywatnym przez przedsiębiorstwa, aw sektorze publicznym przez organizacje rządowe i gminy. Wraz z postępem sztucznej inteligencji i uczenia maszynowego księgowi i audytorzy mogą korzystać z coraz bardziej wyrafinowanych algorytmów, które podejmują decyzje, na przykład dotyczące określenia, co jest anomalią, czy powiadomić personel i jak nadać priorytet zadaniom przydzielonym personelowi .

mediów i rozrywki

Media cyfrowe, platformy rozrywkowe i usługi informacyjne w coraz większym stopniu dostarczają treści odbiorcom za pośrednictwem zautomatyzowanych systemów rekomendacji opartych na danych demograficznych, wcześniejszych wyborach, filtrowaniu opartym na współpracy lub filtrowaniu treści. Obejmuje to platformy muzyczne i wideo, publikacje, informacje zdrowotne, bazy danych produktów i wyszukiwarki. Wiele systemów rekomendujących zapewnia również użytkownikom pewną agencję w akceptowaniu rekomendacji i zawiera oparte na danych algorytmiczne pętle sprzężenia zwrotnego oparte na działaniach użytkownika systemu.

Wielkoskalowe modele językowe uczenia maszynowego i programy do tworzenia obrazów opracowywane przez firmy takie jak OpenAI i Google w latach 20. XX wieku mają ograniczony dostęp, jednak prawdopodobnie będą miały szerokie zastosowanie w takich dziedzinach, jak reklama, copywriting, obrazy giełdowe i projektowanie graficzne. jak inne dziedziny, takie jak dziennikarstwo i prawo.

Reklama

Reklama internetowa jest ściśle zintegrowana z wieloma platformami mediów cyfrowych, stronami internetowymi i wyszukiwarkami i często wiąże się z automatycznym dostarczaniem reklam graficznych w różnych formatach. „Zautomatyzowana” reklama internetowa polega na automatyzacji sprzedaży i dostarczania reklam cyfrowych na stronach internetowych i platformach za pomocą oprogramowania, a nie bezpośredniego podejmowania decyzji przez ludzi. Jest to czasami nazywane modelem kaskadowym, który obejmuje sekwencję kroków w różnych systemach i podmiotach: wydawcach i platformach do zarządzania danymi, danych użytkowników, serwerach reklamowych i ich danych o dostarczaniu, systemach zarządzania zapasami, handlarzach reklamami i giełdach reklam. Z tym systemem wiążą się różne problemy, w tym brak przejrzystości dla reklamodawców, nieweryfikowalne wskaźniki, brak kontroli nad miejscami wyświetlania reklam, śledzenie odbiorców i obawy dotyczące prywatności. Internauci, którzy nie lubią reklam, przyjęli środki zaradcze, takie jak blokowania reklam , które pozwalają użytkownikom automatycznie filtrować niechciane reklamy ze stron internetowych i niektórych aplikacji internetowych. W 2017 roku 24% australijskich internautów korzystało z programów blokujących reklamy.

Zdrowie

Do przeglądania zdjęć rentgenowskich i wykrywania zwyrodnienia plamki żółtej oka wykorzystywane są modele AI oparte na głębokim uczeniu się .

Służby socjalne

Rządy wdrażają technologie cyfrowe, aby zapewnić wydajniejszą administrację i usługi społeczne od początku XXI wieku, często określane jako e-administracja . Wiele rządów na całym świecie używa obecnie zautomatyzowanych, algorytmicznych systemów do profilowania i ukierunkowywania polityk i usług, w tym algorytmicznej polityki policyjnej opartej na ryzyku, sortowania osób na podstawie nadzoru, np. bezrobotni. Istotne zastosowanie ADM w usługach społecznych dotyczy wykorzystania analiz predykcyjnych – np. przewidywania zagrożeń dla dzieci wynikających z wykorzystywania/zaniedbania w ochronie dzieci , przewidywania recydywy lub przestępstwa w policji i sądownictwie karnym, przewidywania oszustw socjalnych/podatkowych w systemach zgodności , prognozy długotrwałego bezrobocia w służbach zatrudnienia. Historycznie systemy te opierały się na standardowych analizach statystycznych, jednak od początku XXI wieku uczenie maszynowe jest coraz częściej rozwijane i wdrażane. Kluczowe kwestie związane z wykorzystaniem ADM w usługach społecznych obejmują stronniczość, uczciwość, odpowiedzialność i możliwość wyjaśnienia , co odnosi się do przejrzystości powodów decyzji i możliwości wyjaśnienia podstawy, na której maszyna podjęła decyzję. Na przykład australijska federalna agencja ubezpieczeń społecznych, Centrelink, opracowała i wdrożyła zautomatyzowane procesy wykrywania i windykacji długów, które doprowadziły do ​​wielu przypadków bezprawnej windykacji w tak zwanym programie RoboDebt .

Transport i mobilność

Połączona i zautomatyzowana mobilność (CAM) obejmuje pojazdy autonomiczne , takie jak samojezdne samochody i inne formy transportu, które wykorzystują zautomatyzowane systemy decyzyjne w celu zastąpienia różnych aspektów kontroli pojazdu przez człowieka. Może to wahać się od poziomu 0 (całkowita jazda przez człowieka) do poziomu 5 (całkowicie autonomiczna). Na poziomie 5 maszyna jest w stanie podejmować decyzje dotyczące sterowania pojazdem w oparciu o modele danych i mapowanie geoprzestrzenne oraz czujniki czasu rzeczywistego i przetwarzanie środowiska. Samochody z poziomami od 1 do 3 będą już dostępne na rynku w 2021 r. W 2016 r. niemiecki rząd powołał „Komisję Etyki ds. Zautomatyzowanej i Połączonej Jazdy”, która zaleciła opracowanie pojazdów połączonych i zautomatyzowanych (CAV), jeśli systemy powodują mniej wypadków niż ludzie kierowców (dodatni bilans ryzyka). Przedstawiono również 20 zasad etycznych dotyczących dostosowania zautomatyzowanej i połączonej jazdy. W 2020 r. strategia Komisji Europejskiej dotycząca CAM zalecała ich przyjęcie w Europie w celu zmniejszenia liczby ofiar śmiertelnych na drogach i obniżenia emisji, jednak samochody samojezdne wiążą się również z wieloma kwestiami politycznymi, bezpieczeństwem i prawnymi w zakresie odpowiedzialności i etycznego podejmowania decyzji w razie wypadków , a także kwestie prywatności. Kwestie zaufania do pojazdów autonomicznych i obawy społeczności dotyczące ich bezpieczeństwa to kluczowe czynniki, którymi należy się zająć, jeśli pojazdy autonomiczne mają być szeroko stosowane.

Nadzór

Zautomatyzowane gromadzenie danych cyfrowych za pomocą czujników, kamer, transakcji online i mediów społecznościowych znacznie rozszerzyło zakres, skalę i cele praktyk i instytucji nadzoru w sektorze rządowym i komercyjnym. W rezultacie nastąpiło znaczne przejście od ukierunkowanego monitorowania podejrzanych do możliwości monitorowania całych populacji. Poziom nadzoru możliwy obecnie dzięki zautomatyzowanemu gromadzeniu danych został opisany jako kapitalizm nadzoru lub ekonomia nadzoru, aby wskazać sposób, w jaki media cyfrowe obejmują śledzenie i gromadzenie danych na dużą skalę podczas każdej interakcji.

Kwestie etyczne i prawne

Istnieje wiele implikacji społecznych, etycznych i prawnych zautomatyzowanych systemów decyzyjnych. Podnoszone obawy obejmują brak przejrzystości i możliwości zaskarżenia decyzji, ingerencję w prywatność i nadzór, zaostrzenie systemowych uprzedzeń i nierówności ze względu na stronniczość danych i algorytmów , prawa własności intelektualnej, rozpowszechnianie dezinformacji za pośrednictwem platform medialnych, dyskryminację administracyjną, ryzyko i odpowiedzialność, bezrobocie i wiele innych. Ponieważ ADM staje się coraz bardziej wszechobecny, istnieje większa potrzeba sprostania wyzwaniom etycznym w celu zapewnienia dobrego zarządzania w społeczeństwach informacyjnych.

Systemy ADM są często oparte na uczeniu maszynowym i algorytmach, które nie są łatwe do przeglądania ani analizowania, co prowadzi do obaw, że są to systemy „czarnej skrzynki”, które nie są przejrzyste ani rozliczalne.

Raport sporządzony przez Citizen Lab w Kanadzie opowiada się za krytyczną analizą praw człowieka dotyczącą stosowania ADM w różnych obszarach, aby upewnić się, że wykorzystanie zautomatyzowanego podejmowania decyzji nie prowadzi do naruszeń praw, w tym praw do równości i niedyskryminacji; wolność przemieszczania się, wypowiedzi, wyznania i zrzeszania się; prawo do prywatności oraz prawo do życia, wolności i bezpieczeństwa osoby.

Odpowiedzi legislacyjne na ADM obejmują:

Stronniczość

ADM może uwzględniać stronniczość algorytmiczną wynikającą z:

  • Źródła danych, w przypadku których dane wejściowe są stronnicze w ich zbieraniu lub wyborze
  • Projekt techniczny algorytmu, na przykład w przypadku przyjęcia założeń dotyczących zachowania się danej osoby
  • Pojawiająca się stronniczość, gdzie zastosowanie ADM w nieprzewidzianych okolicznościach prowadzi do stronniczego wyniku

Wyjaśnialność

Kwestie stronniczych lub niepoprawnych danych lub algorytmów oraz obawy, że niektóre ADM są technologiami czarnych skrzynek, zamkniętymi na ludzką kontrolę lub przesłuchanie, doprowadziły do ​​tego, co określa się jako kwestię wyjaśnialności lub prawa do wyjaśnienia zautomatyzowanych decyzji i sztucznej inteligencji . Jest to również znane jako Wyjaśnialna sztuczna inteligencja (XAI) lub Interpretowalna sztuczna inteligencja, w której wyniki rozwiązania mogą być analizowane i rozumiane przez ludzi. Uważa się, że algorytmy XAI kierują się trzema zasadami - przejrzystością, interpretowalnością i wyjaśnialnością.

Asymetria informacji

Zautomatyzowane podejmowanie decyzji może zwiększyć asymetrię informacji między osobami fizycznymi, których dane wprowadzane są do systemu, a platformami i systemami decyzyjnymi, które są w stanie wywnioskować informacje z tych danych. Z drugiej strony zaobserwowano, że w obrocie finansowym asymetria informacji między dwoma sztucznymi inteligentnymi agentami może być znacznie mniejsza niż między dwoma agentami ludzkimi lub między agentami ludzkimi i maszynowymi.

Pola badawcze

Wiele dyscyplin i dziedzin akademickich w coraz większym stopniu zwraca uwagę na rozwój, zastosowanie i implikacje ADM, w tym biznes, informatykę, interakcję człowiek-komputer (HCI), prawo, administrację publiczną oraz media i komunikację. Automatyzacja treści medialnych i opartych na algorytmach wiadomości, wideo i innych treści za pośrednictwem systemów i platform wyszukiwania jest głównym przedmiotem badań akademickich w dziedzinie nauk o mediach.

Konferencja ACM na temat uczciwości, odpowiedzialności i przejrzystości (ACM FAccT) została utworzona w 2018 r. w celu zbadania przejrzystości i wyjaśnialności w kontekście systemów społeczno-technicznych, z których wiele obejmuje ADM i sztuczną inteligencję.

Kluczowe ośrodki badawcze badające ADM obejmują:

Zobacz też

Pobrano z „ https://en.wikipedia.org/w/index.php?title=Automated_decision-making&oldid=1136467928 ”