Sandra Wachter

Sandra Wachter
Sandra Wachter przemawia w Berkman Klein Center for Internet & Society w 2018 roku
Urodzić się	Austria
Alma Mater	Uniwersytet Wiedeński Uniwersytet Oksfordzki
Kariera naukowa
Instytucje	Oxford Internet Institute Instytut Alana Turinga Królewska Akademia Inżynierii

Sandra Wachter jest profesorem i starszym pracownikiem naukowym w dziedzinie etyki danych, sztucznej inteligencji , robotyki , algorytmów i regulacji w Oxford Internet Institute . Jest byłym członkiem Instytutu Alana Turinga .

Wczesne życie i edukacja

Wachter dorastał w Austrii i studiował prawo na Uniwersytecie Wiedeńskim . Wachter powiedziała, że ​​zainspirowała ją do pracy w technologii jej babcia, która była jedną z pierwszych kobiet przyjętych na Politechnikę w Wiedniu .

Ukończyła LL.M. w 2009 r., zanim rozpoczął pracę jako radca prawny w austriackim Federalnym Ministerstwie Zdrowia. W tym czasie dołączyła do wydziału Uniwersytetu Wiedeńskiego, uzyskując stopień doktora w dziedzinie technologii, własności intelektualnej i demokracji . Stopień doktora uzyskała w 2015 roku, uzyskując jednocześnie tytuł magistra nauk społecznych na Uniwersytecie Oksfordzkim . Po uzyskaniu doktoratu Wachter wstąpiła do Królewskiej Akademii Inżynierii , gdzie pracowała w polityce publicznej. Wróciła na Uniwersytet Wiedeński, gdzie zajmowała się różnymi etycznymi aspektami innowacji.

Badania

Jej praca obejmuje zagadnienia prawne i etyczne związane z big data, sztuczną inteligencją, algorytmami i ochroną danych. Uważa, że ​​należy zachować równowagę między innowacjami technicznymi a osobistą kontrolą informacji. Wachter została pracownikiem naukowym w Instytucie Alana Turinga w 2016 roku. Na tym stanowisku oceniała etyczne i prawne aspekty nauki o danych . Argumentowała, że ​​​​sztuczna inteligencja powinna być bardziej przejrzysta i odpowiedzialna, a ludzie mają „prawo do rozsądnych wniosków”. Zwróciła uwagę na przypadki, w których nieprzejrzyste algorytmy stały się rasistowskie i seksistowskie; takich jak dyskryminacja we wnioskach do St George's Hospital and Medical School w latach 70. XX wieku i przeszacowanie liczby czarnych oskarżonych ponownie popełniających przestępstwa podczas korzystania z programu COMPAS . Chociaż Wachter zdaje sobie sprawę, że trudno jest wyeliminować błąd systematyczny z zestawów danych treningowych, wierzy, że możliwe jest opracowanie narzędzi do ich identyfikacji i eliminacji. Przyjrzała się sposobom audytu sztucznej inteligencji w celu zwalczania dyskryminacji i promowania sprawiedliwości. W tym charakterze argumentowała, że ​​​​Facebook powinien nadal korzystać z ludzkich moderatorów.

Argumentowała, że ​​ogólne rozporządzenie o ochronie danych (RODO) wymaga reformy, ponieważ pomimo zwrócenia uwagi na etap wprowadzania, mniej czasu poświęca się na ocenę danych. Uważa, że ​​prywatność musi oznaczać coś więcej niż tylko ochronę danych , skupiając się na ocenie danych i sposobach kontrolowania przez ludzi sposobu przechowywania i udostępniania informacji na ich temat.

Współpracując z Brentem Mittelstadtem i Chrisem Russellem, Wachter zasugerował wyjaśnienia alternatywne – stwierdzenia, jak inny byłby świat, gdyby skutkowało innym wynikiem. Kiedy decyzje są podejmowane przez algorytm, ludziom może być trudno zrozumieć, dlaczego są podejmowane, zwłaszcza bez ujawniania tajemnic handlowych dotyczących algorytmu. Wyjaśnienia kontrfaktyczne pozwoliłyby na badanie algorytmów bez konieczności ujawniania tajemnic. Podejście oparte na alternatywnych wyjaśnieniach zostało przyjęte przez Google w What If , funkcji na TensorBoard , Google Open Source aplikacja internetowa wykorzystująca uczenie maszynowe. Wyjaśnienia alternatywne bez otwierania czarnej skrzynki: zautomatyzowane decyzje i RODO , artykuł napisany przez Wachtera, Brenta Mittelstadta i Chrisa Russella, został opublikowany w prasie i jest szeroko cytowany w literaturze naukowej.

Usługa akademicka

została profesorem nadzwyczajnym na Uniwersytecie Oksfordzkim , a od wiosny 2020 r. profesorem wizytującym na Uniwersytecie Harvarda . Wachter jest także członkiem Rady ds. Wartości, Etyki i Innowacji Światowego Forum Ekonomicznego , filią Bonavero Institute of Human Praw oraz członkiem Grupy Ekspertów Komisji Europejskiej ds . Samochodów Autonomicznych .

Nagrody i wyróżnienia

• ESRC IAA O²RB Excellence in Impact Awards 2021
• 2019 The Next Web Najbardziej wpływowi ludzie w AI w 2019 roku
• Nagroda Junior Scholars Conference 2019 Privacy Law Scholars Conference
• 2019 Business Insider Nordic AI Pionier
• 2019 Business Insider UK Tech 100
• Nagroda CognitionX AI Superhero 2017