Problem wyrównania
 Wydanie w twardej oprawie
| |
| Autor | Briana Christiana |
|---|---|
| Kraj | Stany Zjednoczone |
| Język | język angielski |
| Temat | Dopasowanie AI |
| Wydawca | WW Norton & Company |
Data publikacji |
6 października 2020 r |
| Typ mediów | Druk, e-book, audiobook |
| Strony | 496 |
| ISBN | 0393635821 |
| OCLC | 1137850003 |
| Strona internetowa | brianchristian.org/the-alignment-problem/ |
The Alignment Problem: Machine Learning and Human Values to książka non-fiction z 2020 roku autorstwa amerykańskiego pisarza Briana Christiana . Opiera się na licznych wywiadach z ekspertami próbującymi zbudować sztucznej inteligencji , w szczególności systemy uczenia maszynowego , które są zgodne z ludzkimi wartościami.
Streszczenie
Książka jest podzielona na trzy części: Proroctwa, Wolność i Normatywność. Każda sekcja obejmuje badaczy i inżynierów pracujących nad różnymi wyzwaniami związanymi z dostosowaniem sztucznej inteligencji do wartości ludzkich.
Proroctwo
W pierwszej części Christian przeplata dyskusje na temat historii badań nad sztuczną inteligencją, w szczególności podejścia do uczenia maszynowego w sztucznych sieciach neuronowych, takich jak Perceptron i AlexNet , z przykładami niezamierzonego zachowania systemów AI. Opowiada historię Julii Angwin , dziennikarki, której ProPublica bada algorytm COMPAS , narzędzie do przewidywania recydywy wśród oskarżonych w sprawach karnych, doprowadziło do powszechnej krytyki jego dokładności i stronniczości w stosunku do niektórych danych demograficznych. Jednym z głównych wyzwań związanych z dostosowaniem sztucznej inteligencji jest jej czarnej skrzynki (dane wejściowe i wyjściowe można zidentyfikować, ale proces transformacji pomiędzy nimi jest nieokreślony). Brak przejrzystości utrudnia ustalenie, gdzie system działa dobrze, a gdzie źle.
Agencja
W drugiej części Christian w podobny sposób przeplata historię psychologicznych badań nad nagrodą, takich jak behawioryzm i dopamina , z informatyką uczenia się przez wzmacnianie , w której systemy sztucznej inteligencji muszą opracować politykę („co robić”) w obliczu funkcja wartości („jakich nagród lub kar się spodziewać”). Nazywa DeepMind AlphaGo i AlphaZero systemów „być może najbardziej imponującym osiągnięciem w zautomatyzowanym projektowaniu programów nauczania”. Podkreśla również znaczenie ciekawości, w przypadku której uczący się ze wzmocnieniem są wewnętrznie zmotywowani do eksploracji swojego środowiska, a nie wyłącznie do poszukiwania nagrody zewnętrznej.
Normatywność
Trzecia część obejmuje szkolenie sztucznej inteligencji poprzez naśladowanie zachowania człowieka lub maszyny, a także filozoficzne debaty, takie jak między pozybilizmem a aktualizmem , które implikują różne idealne zachowanie systemów sztucznej inteligencji. Szczególnie ważne jest odwrotne uczenie się przez wzmacnianie , szerokie podejście do maszyn do uczenia się obiektywnej funkcji człowieka lub innego agenta. Christian omawia normatywne wyzwania związane ze skutecznym altruizmem i ryzykiem egzystencjalnym , w tym prace filozofów Toby'ego Orda i William MacAskill , którzy próbują opracować strategie ludzi i maszyn w celu jak najskuteczniejszego poruszania się po problemie wyrównania.
Przyjęcie
Książka zebrała pozytywne recenzje od krytyków. David A. Shaywitz z The Wall Street Journal podkreślił częste problemy podczas stosowania algorytmów do rzeczywistych problemów, opisując książkę jako „pełną niuansów i wciągającą eksplorację tego gorącego tematu”. Publishers Weekly pochwalił książkę za jej napisanie i obszerne badania.
Recenzje Kirkus pozytywnie zrecenzowały książkę, nazywając ją „bogatą technicznie, ale dostępną” oraz „intrygującą eksploracją sztucznej inteligencji”. Pisząc dla Nature , Virginia Dignum wystawiła książkę pozytywną recenzję, pozytywnie porównując ją do Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence Kate Crawford .
W 2021 roku dziennikarz Ezra Klein zaprosił Christiana do swojego podcastu The Ezra Klein Show, pisząc w The New York Times : „ Problem wyrównania to najlepsza książka dotycząca kluczowych technicznych i moralnych kwestii sztucznej inteligencji, jaką przeczytałem”. Później w tym samym roku książka została wymieniona w Fast Company , „5 książek, które zainspirowały w tym roku dyrektora generalnego Microsoft Satyę Nadellę ”.