Fawkes (oprogramowanie do maskowania obrazu)
Fawkes to oprogramowanie do maskowania obrazu twarzy stworzone przez SAND (Security, Algorithms, Networking and Data) Laboratory na Uniwersytecie w Chicago . Jest to bezpłatne narzędzie, które jest dostępne jako samodzielny plik wykonywalny. Oprogramowanie tworzy niewielkie zmiany w obrazach przy użyciu sztucznej inteligencji , aby chronić obrazy przed rozpoznaniem i dopasowaniem przez oprogramowanie do rozpoznawania twarzy . Celem programu Fawkes jest umożliwienie jednostkom ochrony własnej prywatności przed gromadzeniem dużych ilości danych. Od maja 2022 r. Fawkes v1.0 przekroczył 840 000 pobrań. Docelowo Laboratorium SAND ma nadzieję na wdrożenie oprogramowania na większą skalę w celu zwalczania nieuzasadnionego oprogramowania do rozpoznawania twarzy.
Historia
Program Fawkes został nazwany na cześć fikcyjnego bohatera filmu i komiksu V jak Vendetta , który czerpał inspirację z postaci historycznej Guya Fawkesa . Propozycja Fawkesa została początkowo zaprezentowana na USENIX Security w sierpniu 2020 r., gdzie uzyskała akceptację i wkrótce potem została uruchomiona. Najnowsza wersja dostępna do pobrania, Fawkes v1.0, została wydana w kwietniu 2021 r. i nadal jest aktualizowana w 2022 r. Zespołem założycielskim kierują Emily Wenger i Shawn Shan, doktoranci z University of Chicago . Dodatkowe wsparcie ze strony Jiayun Zhang i Huiying Li wraz z doradcami wydziałowymi Benem Zhao i Heather Zheng przyczyniło się do stworzenia oprogramowania. Zespół wymienia gromadzenie danych bez zgody, w szczególności przez takie firmy jak Clearwater AI , jako główną inspirację stojącą za stworzeniem Fawkesa.
Techniki
Metody stosowane przez Fawkesa można zidentyfikować jako podobne do kontradyktoryjnego uczenia maszynowego . Ta metoda trenuje oprogramowanie do rozpoznawania twarzy przy użyciu już zmienionych obrazów. Powoduje to, że oprogramowanie nie jest w stanie dopasować zmienionego obrazu do rzeczywistego obrazu, ponieważ nie rozpoznaje ich jako tego samego obrazu. Fawkes stosuje również zatruwania danych , które zmieniają zestaw danych używany do trenowania niektórych modeli głębokiego uczenia się. Fawkes wykorzystuje dwa rodzaje technik zatruwania danych: ataki typu „czysta etykieta” i ataki polegające na uszkodzeniu modelu. Twórcy Fawkesa stwierdzają, że używanie obrazów sybil może zwiększyć skuteczność ich oprogramowania w porównaniu z oprogramowaniem rozpoznającym. Obrazy Sybil to obrazy, które nie pasują do osoby, której są przypisywane. To dezorientuje oprogramowanie do rozpoznawania twarzy i prowadzi do błędnej identyfikacji, co również pomaga w skuteczności maskowania obrazu. Uczenie maszynowe chroniące prywatność wykorzystuje techniki podobne do oprogramowania Fawkes, ale wybiera szkolenie na modelu różnicowo prywatnym, które pomaga zachować prywatność informacji w zbiorze danych.
Aplikacje
Maskowanie obrazu Fawkesa może być używane na obrazach i aplikacjach, z których korzystamy na co dzień. Jednak skuteczność oprogramowania maleje, jeśli istnieją zamaskowane i niezamaskowane obrazy, które może wykorzystać oprogramowanie do rozpoznawania twarzy. Oprogramowanie do maskowania obrazu zostało przetestowane na oprogramowaniu do rozpoznawania twarzy o dużej mocy z różnymi wynikami. Oprogramowanie do maskowania twarzy podobne do oprogramowania Fawkes nazywa się LowKey . LowKey zmienia również obrazy na poziomie wizualnym, ale te zmiany są znacznie bardziej zauważalne w porównaniu z oprogramowaniem Fawkes.