Zróżnicowany rozwój technologiczny
Zróżnicowany rozwój technologiczny to strategia zarządzania technologią mająca na celu zmniejszenie ryzyka związanego z pojawiającymi się technologiami poprzez wpływanie na kolejność ich opracowywania. W ramach tej strategii społeczeństwa dążyłyby do opóźnienia rozwoju szkodliwych technologii i ich zastosowań, przy jednoczesnym przyspieszeniu rozwoju technologii korzystnych, zwłaszcza tych, które zapewniają ochronę przed szkodliwymi.
Historia pomysłu
Zróżnicowany rozwój technologiczny został początkowo zaproponowany przez filozofa Nicka Bostroma w 2002 roku i zastosował tę ideę do zarządzania sztuczną inteligencją w swojej książce Superintelligence: Paths, Dangers, Strategies z 2014 roku . Strategia została również poparta przez filozofa Toby'ego Orda w jego książce The Precipice: Existential Risk and the Future of Humanity z 2020 roku, który pisze, że „Chociaż może być zbyt trudno zapobiec rozwojowi ryzykownej technologii, możemy być w stanie zredukować egzystencjalne ryzyko poprzez przyspieszenie rozwoju technologii ochronnych w stosunku do niebezpiecznych”.
Nieformalna dyskusja
Paul Christiano uważa, że chociaż przyspieszenie postępu technologicznego wydaje się być jednym z najlepszych sposobów na poprawę dobrobytu ludzi w ciągu następnych kilku dekad, szybsze tempo wzrostu nie może być równie ważne w dalekiej przyszłości, ponieważ wzrost musi się w końcu nasycić ze względu na ograniczenia fizyczne. Dlatego z perspektywy dalekiej przyszłości bardziej istotny wydaje się zróżnicowany rozwój technologiczny. [ niewiarygodne źródło? ]
Zainspirowani propozycją Bostroma, Luke Muehlhauser i Anna Salamon zaproponowali bardziej ogólny projekt „zróżnicowanego postępu intelektualnego”, w ramach którego społeczeństwo rozwija swoją mądrość, wyrafinowanie filozoficzne i zrozumienie zagrożeń szybciej niż jego potęga technologiczna. [ niewiarygodne źródło? ] [ niewiarygodne źródło? ] Brian Tomasik rozwinął to pojęcie. [ niewiarygodne źródło? ]
Zobacz też
