Apakah melindungi foto dari sistem pengenalan wajah berfungsi?

gambar



Selama satu setengah bulan terakhir (dari awal Agustus 2020), cukup banyak publikasi / platform dan sumber daya yang telah berbicara / menulis tentang Algoritma Fawkes: https://sandlab.cs.uchicago.edu/fawkes/#press .



Diantaranya adalah Habr , The New York Times , The Verge , dll.



Memang, di zaman kita (tenang 2020) , topik pengawasan, identifikasi warga dengan kamera pengintai dan pencarian oleh individu melalui foto (FindFace, dll) cukup relevan .



Para peneliti di University of Chicago telah menemukan algoritma penyelubungan untuk melindungi dari pengenalan wajah. Kami memposting sumber di github: https://github.com/Shawn-Shan/fawkes .



Pada bulan Agustus, saya membaca tentang alat ini (Algoritma Fawkes). Dan saya memutuskan untuk mengganti foto saya di jejaring sosial dan di semua sumber daya Internet tempat foto asli saya berada.



Tapi, sebagai permulaan, saya memutuskan untuk mencoba alat ini di foto saya:



  • apakah fawkes mulai;
  • periksa dengan mata kepala sendiri hasil kerja fawkes;
  • periksa sumber daya yang dideklarasikan (dengan alat yang sama seperti penulis fawkes menguji algoritmanya).


Untungnya, https://github.com/Shawn-Shan/fawkes memiliki instruksi yang cukup rinci dan sederhana untuk bekerja dengan fawkes.



Pencipta fawkes mengklaim bahwa algoritme melindungi:



  • Microsoft Azure Face API,
  • Verifikasi Wajah Amazon Rekognition,
  • Face ++ Face Search API.


Daftar ini ditunjukkan dalam "Makalah Teknis" :



gambar



Di server pribadi, dikumpulkan dari sumber: git clone; pip3 instal fawkes. Itu tidak mudah, tetapi sangat sederhana.



Saya mengupload foto saya ke server "r1.jpg". Dan sesuai petunjuknya, saya mengolah foto ini menggunakan fawkes.

Di pintu keluar saya mendapat foto kedua: "r1_min_cloaked.png". Hore, saya mendapat foto cloak-down. Membuka foto "r1_min_cloaked.png" - lihat dengan mata kepala sendiri. Perubahannya terlihat, tetapi tidak kritis. Di sekitar mata, pangkal hidung dan hidung - tidak ada pemadaman yang signifikan.



gambar



Setelah itu saya putuskan untuk mengecek hasilnya ("r1_min_cloaked.png") pada layanan "Microsoft Azure Face API", "Amazon Rekognition Face Verification" dan "Face ++ Face Search API".



Hasil:



r1-dan-r1_cloacked



Seperti yang Anda lihat, jaringan saraf Microsoft Azure Face API menunjukkan bahwa foto asli (di sebelah kiri pada tangkapan layar) dan foto setelah diproses (di sebelah kanan pada tangkapan layar) adalah satu orang. Angka serupa ditampilkan untuk alat verifikasi lainnya: jaringan saraf "Amazon Rekognition Face Verification" dan "Face ++ Face Search API". Begitu



pula dengan "perlindungan" foto orang / orang lain:



r1_and_cat



obama_origin_and_cloacked



emily_origin_and_cloacked



queen_origin_and_cloacked_faceplusplus



obama_origin_and_cloacked_faceplusplus



Artinya, mulai pertengahan September "Fawkes" tidak berfungsi. Mungkin, tentu saja, Fawkes beroperasi pada Agustus 2020. Namun pada September 2020, itu tidak berfungsi lagi.



Seminggu yang lalu, saya menulis surat kepada pengembang Fawkes dan tim Fawkes-nya, meminta mereka membantu mengonfirmasi kerja algoritme. Tapi saya belum menerima surat balasan.



Saat ini, saya belum bisa memastikan pekerjaan "Fawkes".



All Articles