W sporze o to, co można pokazywać w mediach społecznościowych, pojawił się przypadek, który trudno zbyć wzruszeniem ramion. Chodzi o dokumentację cierpienia dzieci, sklasyfikowaną przez algorytm w kategorii przeznaczonej dla treści zupełnie innego rodzaju.

Co się stało

Facebook zawiesił stronę Ośrodka Monitorowania Zachowań Rasistowskich i Ksenofobicznych, polskiej organizacji, którą obserwowało 400 tysięcy osób. Sprawę opisuje Rzeczpospolita.

Powodem były zdjęcia dokumentujące sytuację dzieci w Strefie Gazy: rannych, niedożywionych, przebywających w szpitalach. Meta uznała je za materiał przedstawiający seksualne wykorzystywanie małoletnich i na tej podstawie zablokowała stronę. Do zawieszenia doszło 9 lipca, po wcześniejszym usuwaniu podobnych zdjęć 8 i 9 lipca.

Na czym polega problem

Kategoria, którą zastosowano, jest jedną z najostrzejszych w regulaminie każdej platformy i słusznie, bo dotyczy realnej zbrodni. Właśnie dlatego jej użycie wobec dokumentacji ofiar wojny jest tak niepokojące.

Zdjęcie rannego dziecka w szpitalu i materiał przedstawiający jego wykorzystywanie to dwie rzeczy, których pomylić się nie da w ocenie człowieka. Da się natomiast w automatycznej moderacji, która reaguje na obraz nagiego albo okaleczonego ciała dziecka bez rozumienia kontekstu. To rozróżnienie jest sednem sprawy: nie chodzi o to, czy zdjęcia były drastyczne, tylko o to, że przypisano im intencję, której nie miały.

Reakcja fundacji

Założyciel ośrodka Rafał Gaweł wskazał, że w ostatnim roku dochodziło do wielokrotnego usuwania zdjęć z Gazy pod tym samym pretekstem. Zapowiedział, że jeśli strona nie zostanie przywrócona, fundacja podejmie kroki prawne w Polsce i w Norwegii.

Zawieszenie ma charakter czasowy. Standardowo trwa 180 dni, z możliwością odwołania. Meta, poza automatycznymi komunikatami o usunięciu, nie przedstawiła szczegółowego uzasadnienia.

Szerszy kontekst

Warto zaznaczyć rzecz, o której materiał źródłowy wspomina: organizacja Human Rights Watch dokumentowała już wcześniej systematyczne usuwanie przez platformy Meta treści dotyczących Palestyny. To nie znaczy automatycznie, że w tym przypadku mamy do czynienia z celowym działaniem, a nie z błędem algorytmu. Znaczy, że sprawa wpisuje się w opisany wcześniej wzorzec, co czyni tezę o pomyłce mniej oczywistą.

Dlaczego to dotyczy każdego

Można uznać, że to problem jednej fundacji i jednego regionu świata. Byłby to błąd. Mechanizm, który tu zadziałał, jest ten sam niezależnie od tematu: prywatna firma, kierując się własnym regulaminem i własnymi algorytmami, decyduje, co miliardy ludzi mogą zobaczyć, i robi to bez realnej ścieżki odwoławczej, która działałaby szybko.

Dla organizacji, której praca polega na dokumentowaniu i nagłaśnianiu, odcięcie od zasięgu jest formą uciszenia, nawet jeśli nieintencjonalną. A ponieważ te same reguły obowiązują wszystkich, dziś dotyczą zdjęć z Gazy, jutro mogą dotyczyć dowolnej sprawy, którą ktoś zechce udokumentować.

Co dalej

Kluczowe będzie, czy Meta przywróci stronę, i czy zrobi to, uznając własny błąd, czy dopiero pod presją prawną. Zapowiedziane postępowania w dwóch krajach mogą też wymusić coś rzadkiego: wyjaśnienie, na jakiej dokładnie podstawie zapadła decyzja.

Do tego czasu sprawa pozostaje ilustracją problemu, który narasta wraz z rolą platform w obiegu informacji. Ktoś musi rozstrzygać, gdzie kończy się dokumentacja, a zaczyna treść niedozwolona. Dziś rozstrzyga to algorytm firmy, wobec której odwołanie trwa pół roku.