![](\"https:\/\/panoptykon.org\/sites\/default\/files\/styles\/medium\/public\/leadimage-artykuly-w-skrocie\/facebook_list.png?itok=iQlC88qx\")
Platformy spo\u0142eczno\u015bciowe, takie jak Facebook<\/a> i YouTube<\/a>, poinformowa\u0142y, \u017ce z uwagi na zagro\u017cenie koronawirusem cz\u0119\u015b\u0107 os\u00f3b odpowiedzialnych za moderacj\u0119 tre\u015bci w tych serwisach zosta\u0142a odes\u0142ana z biur do dom\u00f3w. W przypadku Facebooka na miejscu zostali jedynie pe\u0142noetatowi pracownicy, kt\u00f3rzy b\u0119d\u0105 koncentrowa\u0107 si\u0119 na zwalczaniu tre\u015bci powoduj\u0105cych bezpo\u015brednie zagro\u017cenie dla \u017cycia lub zdrowia (czyli dotycz\u0105cych np. samob\u00f3jstw, samookaleczenia, wykorzystywania seksualnego dzieci czy terroryzmu). Wi\u0119kszo\u015b\u0107 ludzi zatrudnionych do \u201esprz\u0105tania\u201d niechcianych tre\u015bci nie pracuje jednak bezpo\u015brednio dla Facebooka, tylko dla wsp\u00f3\u0142pracuj\u0105cych z nim firm zewn\u0119trznych. Platforma przyzna\u0142a, \u017ce nie jest w stanie zagwarantowa\u0107 im bezpiecznych warunk\u00f3w pracy zdalnej (np. wsparcia psychologicznego), kt\u00f3rych niew\u0105tpliwie wymaga ta brudna robota. Warto przypomnie\u0107, \u017ce w przesz\u0142o\u015bci poziom odpowiedniej ochrony zapewnianej moderatorom – eksponowanym m.in. na sceny przemocy i inne drastyczne tre\u015bci – wzbudza\u0142 powa\u017cne w\u0105tpliwo\u015bci, co dobrze pokazuje film dokumentalny Czy\u015bciciele Internetu<\/em><\/a> oraz reporta\u017c portalu The Verge<\/a>. Zdalna praca moderator\u00f3w mia\u0142aby ponadto stwarza\u0107 ryzyko dla prywatno\u015bci u\u017cytkownik\u00f3w.<\/p>\r\n\r\nAutomatyczne filtry maj\u0105 zast\u0105pi\u0107 czynnik ludzki w znacznie wi\u0119kszym stopniu ni\u017c dotychczas, a wiele decyzji o usuni\u0119ciu tre\u015bci b\u0119dzie podejmowanych bez udzia\u0142u cz\u0142owieka.<\/p>\r\n<\/blockquote>\r\n
Kto zatem b\u0119dzie czy\u015bci\u0142 Internet pod ich nieobecno\u015b\u0107? Platformy przekaza\u0142y to zadanie w r\u0119ce algorytm\u00f3w. Fakt, \u017ce bior\u0105 one udzia\u0142 w procesie moderacji, to oczywi\u015bcie \u017cadna nowo\u015b\u0107. Teraz jednak automatyczne filtry maj\u0105 zast\u0105pi\u0107 czynnik ludzki w znacznie wi\u0119kszym stopniu ni\u017c dotychczas, a wiele decyzji o usuni\u0119ciu tre\u015bci b\u0119dzie podejmowanych bez udzia\u0142u cz\u0142owieka. W praktyce oznacza to \u015bledzenie i skanowanie wszystkich materia\u0142\u00f3w publikowanych przez u\u017cytkownik\u00f3w, ale tak\u017ce ogromne ryzyko nadmiernego usuwania tre\u015bci. Tak\u017ce takich, kt\u00f3re wcale nie s\u0105 szkodliwe, a zosta\u0142y tylko \u017ale ocenione przez algorytm, kt\u00f3ry pope\u0142ni\u0142 b\u0142\u0105d w analizie obrazu albo nie wychwyci\u0142 satyrycznego kontekstu. Jaki\u015b czas temu informowali\u015bmy na przyk\u0142ad o usuni\u0119ciu posta organizacji kampanijnej WeMove, kt\u00f3ra udost\u0119pni\u0142a na swoim profilu krytyczny artyku\u0142 portalu Euroactiv na temat polityki migracyjnej Unii Europejskiej. Artyku\u0142 by\u0142 zilustrowany zdj\u0119ciem wyrzuconych na pla\u017c\u0119 cia\u0142 migrant\u00f3w z Afryki, kt\u00f3rzy uton\u0119li w drodze do Europy. Facebook usun\u0105\u0142 go z uwagi na naruszenie \u201ezasad dotycz\u0105cych nago\u015bci i czynno\u015bci seksualnych\u201d. Jak wida\u0107, automatycznym filtrom daleko do perfekcji.<\/p>\r\n
<\/p>\r\n
Same platformy nie kryj\u0105 zreszt\u0105, \u017ce wi\u0119ksze zaanga\u017cowanie algorytm\u00f3w mo\u017ce spowodowa\u0107 – jak uj\u0105\u0142 to YouTube<\/a> – \u201eprzypadkowe usuni\u0119cia tre\u015bci, kt\u00f3re nie naruszaj\u0105 ich zasad\u201d. Tymczasem przypomnijmy, \u017ce media spo\u0142eczno\u015bciowe to dla wielu os\u00f3b, firm, organizacji wa\u017cne narz\u0119dzie pracy, komunikacji, organizowania pomocy dla innych czy czerpania wiedzy o bie\u017c\u0105cych wydarzeniach. Jak podaje Pew Research Center<\/a>, w 2018 r. w Polsce 30 proc. badanych pozyskiwa\u0142o wiadomo\u015bci z Facebooka codziennie, a w grupie wiekowej 18-29 odsetek ten wynosi\u0142 a\u017c 72 proc. Nie trzeba chyba nikogo przekonywa\u0107, \u017ce w trakcie aktualnego kryzysu, kiedy jeszcze wi\u0119cej aspekt\u00f3w naszego \u017cycia zosta\u0142o zepchni\u0119tych do sfery online, a wiele os\u00f3b bardziej ni\u017c zwykle \u0142aknie dost\u0119pu do bie\u017c\u0105cych informacji o sytuacji zdrowotnej, politycznej czy gospodarczej, znaczenie platform dodatkowo wzros\u0142o (a wraz z nim ich zyski<\/a>).<\/p>\r\n
Filtr ochronny czy ochrona przed filtrem?<\/h4>\r\n
Zak\u0142adaj\u0105c, \u017ce decyzja o odes\u0142aniu moderator\u00f3w do dom\u00f3w by\u0142a w obecnych okoliczno\u015bciach nieunikniona oraz \u017ce jaka\u015b moderacja tre\u015bci dodawanych przez u\u017cytkownik\u00f3w jest konieczna (jako \u017ce wyzwa\u0144 zwi\u0105zanych z niebezpiecznymi tre\u015bciami w czasie pandemii nie uby\u0142o, a wr\u0119cz przeciwnie) – czy mo\u017cna zrobi\u0107 cokolwiek, aby ochroni\u0107 nas przed arbitraln\u0105 ocen\u0105 i usuwaniem tre\u015bci przez automatyczne filtry? S\u0105 dwa rozwi\u0105zania, kt\u00f3re (\u0142\u0105cznie) pomog\u0142yby zr\u00f3wnowa\u017cy\u0107 to zagro\u017cenie. Po pierwsze: wprowadzenie skutecznej procedury odwo\u0142awczej od decyzji o usuni\u0119ciu tre\u015bci. Po drugie: wprowadzenie gwarancji przejrzysto\u015bci stosowanych algorytm\u00f3w.<\/p>\r\n
\r\nProces odwo\u0142awczy sprowadza si\u0119 do wykorzystania przycisku \u201eodwo\u0142aj si\u0119\u201d w komunikacie o usuni\u0119ciu tre\u015bci, bez mo\u017cliwo\u015bci przedstawienia jakiejkolwiek argumentacji.<\/p>\r\n<\/blockquote>\r\n
Co do pierwszej kwestii – Facebook, og\u0142aszaj\u0105c zmiany w systemie moderacji, poinformowa\u0142, \u017ce\u2026 zawiesza mo\u017cliwo\u015b\u0107 wniesienia odwo\u0142ania od decyzji o usuni\u0119ciu tre\u015bci. A dok\u0142adnie: b\u0119dzie mo\u017cna wyrazi\u0107 sw\u00f3j sprzeciw wobec zasadno\u015bci blokady, z kt\u00f3rym firma si\u0119 zapozna, mo\u017ce wykorzysta do tego, aby usprawni\u0107 sw\u00f3j mechanizm odwo\u0142awczy w przysz\u0142o\u015bci, ale na razie raczej nie b\u0119dzie przywraca\u0107 usuni\u0119tych materia\u0142\u00f3w. Mo\u017cna si\u0119 jedynie pocieszy\u0107, \u017ce w praktyce ten proces odwo\u0142awczy i tak mocno odbiega\u0142 od idea\u0142u skuteczno\u015bci. Dobr\u0105 ilustracj\u0105 jest tutaj sprawa SIN vs Facebook<\/a>, w kt\u00f3rej walczymy o ochron\u0119 praw os\u00f3b, kt\u00f3rych wolno\u015b\u0107 s\u0142owa zosta\u0142a nies\u0142usznie ograniczona poprzez arbitraln\u0105 blokad\u0119 na\u0142o\u017con\u0105 przez platformy internetowe. Przypomnijmy, \u017ce strona i grupy Spo\u0142ecznej Inicjatywy Narkopolityki (SIN) zosta\u0142y bez ostrze\u017cenia i przejrzystych wyja\u015bnie\u0144 usuni\u0119te przez Facebook jako \u201eniezgodne ze Standardami spo\u0142eczno\u015bci\u201d. Proces odwo\u0142awczy sprowadza\u0142 si\u0119 do wykorzystania przycisku \u201eodwo\u0142aj si\u0119\u201d w komunikacie o usuni\u0119ciu tre\u015bci, bez mo\u017cliwo\u015bci przedstawienia jakiejkolwiek argumentacji. Z kolei na ten ruch platforma ju\u017c nie zareagowa\u0142a. Cz\u0142onkowie SIN do tej pory nie wiedz\u0105, kt\u00f3re z publikowanych przez nich materia\u0142\u00f3w i z jakiego powodu Facebook uzna\u0142 za naruszenie swoich zasad. Proces jest w toku, mamy nadziej\u0119, \u017ce usuni\u0119te strony uda si\u0119 przywr\u00f3ci\u0107 na mocy decyzji s\u0105du. Na razie s\u0105d nakaza\u0142 Facebookowi tymczasowe zabezpieczenie<\/a> zablokowanych materia\u0142\u00f3w i zakaza\u0142 usuwania tre\u015bci publikowanych aktualnie przez SIN na ich nowym profilu.<\/p>\r\n
YouTube co prawda nie zawiesi\u0142 mo\u017cliwo\u015bci sk\u0142adania odwo\u0142a\u0144, ale poinformowa\u0142, \u017ce mog\u0105 by\u0107 one rozpoznawane \u201ez op\u00f3\u017anieniem\u201d. Na u\u017cytkownik\u00f3w nie b\u0119d\u0105 natomiast przynajmniej nak\u0142adane tzw. ostrze\u017cenia, chyba \u017ce\u2026 pracownicy serwisu b\u0119d\u0105 mieli \u201esilne przekonanie\u201d, \u017ce dosz\u0142o do naruszenia jego zasad.<\/p>\r\n
Je\u015bli chodzi o drug\u0105 kwesti\u0119, tj. transparentno\u015b\u0107 algorytm\u00f3w – przed pandemi\u0105 zablokowany u\u017cytkownik nie wiedzia\u0142, czy sporne tre\u015bci zosta\u0142y wy\u0142apane przez automatyczny filtr (czy te\u017c np. zg\u0142oszone przez innego u\u017cytkownika jako szkodliwe) ani czy decyzj\u0119 o ich usuni\u0119ciu podj\u0105\u0142 cz\u0142owiek, czy automat. Nie wiedzieli\u015bmy te\u017c, jak cz\u0119sto algorytmy na platformach si\u0119 myl\u0105, w oparciu o jakie dane dzia\u0142aj\u0105 i czy przypadkiem nie s\u0105 zbudowane tak, \u017ce dyskryminuj\u0105 pewne tre\u015bci. Teraz niestety niewiele si\u0119 zmieni\u0142o. Dowiedzieli\u015bmy si\u0119 jedynie, \u017ce algorytmy b\u0119d\u0105 odgrywa\u0142y wi\u0119ksz\u0105 rol\u0119, ale szczeg\u00f3\u0142y ich funkcjonowania wci\u0105\u017c pozostaj\u0105 owiane tajemnic\u0105.<\/p>\r\n
Wnioski (i czy jest dla nas nadzieja?)<\/h4>\r\n
Jakie mo\u017cemy wyci\u0105gn\u0105\u0107 wnioski z tej sytuacji? Reakcja platform na kryzys wywo\u0142any przez koronawirusa potwierdza, \u017ce realne gwarancje dla u\u017cytkownik\u00f3w platform nie mog\u0105 wynika\u0107 z ich wewn\u0119trznych regulacji, bo te firmy internetowe mog\u0105 w ka\u017cdej chwili dowolnie zmieni\u0107. Nie ma te\u017c \u017cadnej pewno\u015bci, \u017ce po pandemii platformy zrezygnuj\u0105 z tych tymczasowych rozwi\u0105za\u0144. Problemu tego nie rozwi\u0105\u017c\u0105 wi\u0119c nawet najlepsze, przyjmowane dobrowolnie \u201estandardy spo\u0142eczno\u015bci\u201d ani rada ekspert\u00f3w<\/a> utworzona w\u0142a\u015bnie przez Facebooka do rozstrzygania spor\u00f3w dotycz\u0105cych tre\u015bci. Nie oznacza to, \u017ce nie nale\u017cy wspiera\u0107 d\u0105\u017cenia platform do tworzenia dla siebie jak najbardziej przejrzystych i sprawiedliwych zasad funkcjonowania. One jednak nie wystarcz\u0105. Od jakiego\u015b czasu sta\u0142o si\u0119 jasne, \u017ce potrzebujemy bardziej stabilnego zabezpieczenia dla naszych praw – w postaci regulacji prawnych, kt\u00f3re z jednej strony narzuc\u0105 platformom standardy, poni\u017cej kt\u00f3rych nie b\u0119d\u0105 mog\u0142y schodzi\u0107, a z drugiej strony wprowadz\u0105 skuteczny mechanizm ich egzekwowania.<\/p>\r\n
By\u0107 mo\u017ce szans\u0105 na przyj\u0119cie takich regulacji b\u0119dzie kodeks us\u0142ug cyfrowych (Digital Service Act)<\/a>, nad kt\u00f3rym prace rozpocz\u0119\u0142a niedawno Komisja Europejska. Kodeks mo\u017ce da\u0107 przestrze\u0144, aby w ko\u0144cu uregulowa\u0107 wiele pal\u0105cych kwestii zwi\u0105zanych z funkcjonowaniem platform internetowych i wymusi\u0107 na nich wi\u0119ksze poszanowanie praw swoich u\u017cytkownik\u00f3w. Jednym z tych zagadnie\u0144 jest niew\u0105tpliwie zarz\u0105dzanie tre\u015bci\u0105 w mediach spo\u0142eczno\u015bciowych w taki spos\u00f3b, \u017ceby skutecznie walczy\u0107 z tym, co szkodliwe, ale jednocze\u015bnie ukr\u00f3ci\u0107 tzw. prywatn\u0105 cenzur\u0119. W tym zakresie kluczowe jest wprowadzenie obowi\u0105zku stworzenia sprawiedliwej procedury stosowanej przez same platformy przy okazji rozstrzygania spor\u00f3w o tre\u015bci, a tak\u017ce zewn\u0119trznej, niezale\u017cnej kontroli nad ich decyzjami. Tak\u0105 kontrol\u0119 powinny sprawowa\u0107 s\u0105dy, tradycyjnie posiadaj\u0105ce kompetencj\u0119 do oceny tego, czy dana wypowied\u017a mie\u015bci si\u0119 w granicach wolno\u015bci s\u0142owa. Musia\u0142yby jednak zosta\u0107 wyposa\u017cone w odpowiednie zasoby, kt\u00f3re gwarantowa\u0142yby ich realn\u0105 dost\u0119pno\u015b\u0107 i efektywno\u015b\u0107 w kontek\u015bcie spodziewanej du\u017cej liczby takich spraw. Jak bardzo jest to wa\u017cne, wida\u0107 na przyk\u0142adzie wspomnianej wy\u017cej sprawy SIN vs Facebook, kt\u00f3ra mimo up\u0142ywu roku od z\u0142o\u017cenia pozwu utkn\u0119\u0142a na kwestiach proceduralnych<\/a> i w efekcie jest wci\u0105\u017c na wczesnym etapie. Pokazuje to, \u017ce kontrola s\u0105dowa w obecnym kszta\u0142cie nie stwarza wystarczaj\u0105co dobrej ochrony. Jest to kolejny argument, kt\u00f3ry przemawia za pilno\u015bci\u0105 interwencji regulacyjnej oraz za tym, aby na powa\u017cnie rozwa\u017cy\u0107 przedstawion\u0105 przez koalicj\u0119 European Digital Rights<\/a> – EDRi (kt\u00f3rej cz\u0142onkiem jest Panoptykon) propozycj\u0119 wsparcia s\u0105d\u00f3w poprzez utworzenie specjalnych organ\u00f3w quasi-s\u0105dowych, kt\u00f3re rozstrzyga\u0142yby spory dotycz\u0105ce tre\u015bci na platformach znacznie szybciej i taniej.<\/p>\r\n
\r\nSprawiedliwa procedura i niezale\u017cny nadz\u00f3r s\u0105 szczeg\u00f3lnie istotne w przypadku wykorzystywania algorytm\u00f3w do oceny i usuwania tre\u015bci.<\/p>\r\n<\/blockquote>\r\n
Z uwagi na szczeg\u00f3lnie du\u017ce ryzyko arbitralno\u015bci sprawiedliwa procedura i niezale\u017cny nadz\u00f3r s\u0105 szczeg\u00f3lnie istotne w przypadku wykorzystywania algorytm\u00f3w do oceny i usuwania tre\u015bci. Aby dodatkowo zminimalizowa\u0107 to ryzyko, kodeks us\u0142ug cyfrowych powinien narzuci\u0107 platformom odpowiednie standardy przejrzysto\u015bci stosowania takich algorytm\u00f3w, pozwalaj\u0105ce u\u017cytkownikom zrozumie\u0107, kiedy i na jakiej zasadzie one dzia\u0142aj\u0105, jak mo\u017cna kwestionowa\u0107 ich decyzje czy w jakich sprawach dotychczas si\u0119 myli\u0142y. To jednak wci\u0105\u017c nie wystarczy – EDRi sugeruje ponadto powo\u0142anie specjalnego organu kontrolnego na poziomie UE, kt\u00f3ry mia\u0142by m.in. prawo przeprowadza\u0107 niezale\u017cny audyt takich narz\u0119dzi.<\/p>\r\n
Do wprowadzenia powy\u017cszych rozwi\u0105za\u0144 jeszcze d\u0142uga i pewnie wyboista droga, wype\u0142niona trudnymi negocjacjami w Brukseli. Pami\u0119tajmy jednak, \u017ce bez tych gwarancji swobodny przep\u0142yw informacji w sieci b\u0119dzie zagro\u017cony – i to nie tylko w czasie pandemii. Je\u015bli nie chcemy, \u017ceby platformy dowolnie decydowa\u0142y o tym, co mo\u017cemy powiedzie\u0107 czy przeczyta\u0107 w sieci, teraz jest czas, \u017ceby o to zawalczy\u0107 i przekona\u0107 do tego europejskich decydent\u00f3w.<\/p>\r\n
Dorota G\u0142owacka<\/em><\/strong><\/p>\r\n
PS Szczeg\u00f3\u0142owo o sprawiedliwej procedurze na platformach piszemy wi\u0119cej na stronie SIN vs Facebook <\/a>(Pytania i odpowiedzi: Co musi si\u0119 zmieni\u0107, \u017ceby ograniczy\u0107 zagro\u017cenia wynikaj\u0105ce z prywatnej cenzury?).<\/p>\r\n
PS 2 W \u015bwietle wprowadzonych w\u0142a\u015bnie zmian w zasadach moderacji na Facebooku ciekawe jest, jak w aktualn\u0105 polityk\u0119 braku odwo\u0142a\u0144 wpisuj\u0105 si\u0119 odwo\u0142ania z\u0142o\u017cone przez tzw. punkt kontaktowy<\/a>, kt\u00f3ry powsta\u0142 na podstawie porozumienia Facebooka i polskiego rz\u0105du. Zapytali\u015bmy o to Ministerstwo Cyfryzacji i czekamy na odpowied\u017a.<\/p>\r\n
\r\n[Wybrane wypowiedzi internaut\u00f3w pod w\/w tekstem na stronie \u017ar\u00f3d\u0142owej:<\/strong>]<\/p>\r\n
Czy Panoptykon planuje napisa\u0107 o du\u017co wi\u0119kszym zagro\u017ceniu dla prywatno\u015bci jakim b\u0119d\u0105 czipy i tatua\u017ce kwantowe zintegrowane z nowymi szczepionkami nie tylko na COVID, ale na przysz\u0142e choroby?<\/p>\r\n
Tutaj troch\u0119 szczeg\u00f3\u0142\u00f3w – w tym strony samych tw\u00f3rc\u00f3w tych szczepionek:<\/p>\r\n
https:\/\/bioengineering.rice.edu\/news\/quantum-dot-tattoos-hold-vaccinatio…<\/a><\/p>\r\n
https:\/\/www.geekweek.pl\/news\/2020-04-06\/powstanie-globalny-system-identy…<\/a><\/p>\r\n
https:\/\/www.youtube.com\/watch?v=LQMzhA_1GPQ<\/a><\/p>\r\n