AI w NGO: co zmieni się po 2 sierpnia i co warto uporządkować?

Od 2 sierpnia firmy, instytucje, a także osoby korzystające zawodowo z narzędzi AI – w tym potencjalnie także w ramach NGO – będą musiały jasno oznaczać swoje treści jako wygenerowane lub istotnie przetworzone przez sztuczną inteligencję, jeśli do stworzenia danego „elementu” wykorzystano AI. Dla trzeciego sektora to nowe ryzyko prawne, ale także szansa na wzmocnienie zaufania do komunikacji oraz działań społecznych.

Co dokładnie zmienia AI Act od 2 sierpnia?

AI Act, czyli dokument regulujący korzystanie z systemów sztucznej inteligencji na poziomie UE, wprowadza od 2 sierpnia obowiązek jeszcze większej transparentności dla treści „sztucznie wygenerowanych lub zmanipulowanych”. Dotyczy to zwłaszcza obrazów, filmów i nagrań audio przypominających rzeczywiste osoby, produkty czy wydarzenia (chodzi przede wszystkim o tzw. deepfake). Regulacje obejmą zarówno osoby prawne, jak i fizyczne prowadzące działalność zawodową, którzy osiągają w ten sposób korzyści ekonomiczne albo świadczą usługi – także freelancerów i twórców działających komercyjnie dla NGO. Obowiązek oznaczania nie dotyczy wyłącznie aktywności „osobistej”, pozazawodowej, czyli np. zdjęcia rodzinnego zmodyfikowanego z wykorzystaniem AI i przesłanego najbliższym. Warto dodać, że klasyczne teksty informacyjne, które są sprawdzone przez człowieka i objęte odpowiedzialnością redakcyjną, co do zasady nie wymagają aktualnie dodatkowego oznaczania tylko z tego powodu, że w procesie redagowania powstały z użyciem AI.

Większość organizacji pozarządowych nie buduje raczej własnych modeli AI, ale korzysta jednak z gotowych rozwiązań: generatorów grafiki, narzędzi tekstowych czy funkcji AI w pakietach biurowych. W AI Act taka organizacja staje się „podmiotem stosującym”, a więc odpowiada za to, jak narzędzie jest używane na co dzień. To przekłada się na trzy główne obowiązki:

• przejrzystość wobec odbiorców – jasne oznaczanie treści i interakcji AI (chatbot, syntetyczny głos, deepfake, realistyczne grafiki),
• nadzór człowieka nad systemami – szczególnie tam, gdzie decyzje AI mogą wpływać na ludzi (np. selekcja uczestników przeprowadzanych projektów),
• budowanie kompetencji AI (AI literacy/kompetencje w zakresie sztucznej inteligencji) – szkolenia dla osób obsługujących narzędzia, w tym wolontariuszy, dostosowane do zakresu ich działań.

AI Act staje się więc dla NGO czymś w rodzaju „nowego RODO”, ale w obszarze AI, niż tylko „techniczną ciekawostką”. Dokument sięga do sposobu, w jaki również trzeci sektor komunikuje się, zarządza projektami i wykorzystuje dane.

„Deepfake” w świetle AI Act

Deepfake to treść (najczęściej obraz, wideo lub audio), która sprawia wrażenie realnego zapisu rzeczywistości, ale tak naprawdę została stworzona lub istotnie zmodyfikowana przez algorytmy AI. Wszystko to, by przypominać konkretną osobę, sytuację lub wydarzenie. Chodzi o sytuacje, w których AI np. „podkłada” czyjś głos, twarz lub całe ciało, tworząc materiał, który dla odbiorcy jest nieodróżnialny od realnej sytuacji. Co istotne, w ramach AI Act wspomniane pojęcie zostaje rozszerzone, ponieważ zapisy regulacji nie skupiają się wyłącznie na najbardziej „spektakularnych” deepfake’ach, ale obejmują nieco szerzej treści generowane lub modyfikowane przez AI, które mogą wprowadzać w błąd co do tego, czy przedstawiają prawdziwe osoby albo miejsca. Kluczowe jest więc nie tylko „podrabianie” konkretnych osób, ale każde realistyczne kreowanie obrazów rzeczywistości, które potencjalny odbiorca może uznać za faktyczną dokumentację sytuacji. Dlatego pod obowiązek oznaczania podpadną także np. „statystyczni beneficjenci” wygenerowani w AI, zdjęcia z działań projektowych stworzone „z niczego” czy sztuczne głosy brzmiące jak realne osoby uczestniczące np. w warsztatach.

AI Act a obowiązek oznaczania treści oraz obowiązek kompetencji w tym zakresie

Artykuł 50 AI Act, który zaczyna być stosowany od początku sierpnia, wprowadza dość rygorystyczne zasady dotyczące przejrzystości dla treści generowanych lub modyfikowanych przez narzędzia AI. Podmioty stosujące takie rozwiązania, czyli także NGO, muszą zapewnić, że odbiorca ma świadomość, kiedy ma do czynienia z maszyną (chatbot’y), stworzonym przez nią elementem lub kiedy materiał został wygenerowany czy istotnie zmieniony przez taki algorytm. Równolegle już od lutego zeszłego roku organizacje mają prawny obowiązek budowania kompetencji AI u osób korzystających z takich narzędzi – szkolenia nie powinny być “ogólnym wykładem”, ale muszą też być dopasowane do stanowiska, bowiem inny zakres działań prowadzi osoba zajmująca się marketingiem, pisaniem wniosków, a inny osoba odpowiedzialna za tematy księgowe. Warto zadbać w swojej organizacji, aby najbliżsi współpracownicy nie tylko potrafili oznaczyć treści stworzone przez AI, ale także przypilnować, aby pracownicy czy wolontariusze rozumieli ryzyka, zasady przejrzystości i ograniczenia technologii.

Ryzyka, sankcje i dobre praktyki

Za brak wymaganego oznaczenia przewidziano kary do 15 mln euro lub 3% rocznego obrotu – szczegółowe stosowanie sankcji będzie zależało od krajowych przepisów oraz organu nadzorczego, w Polsce planowana jest tzw. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI). Choć w praktyce masowe karanie NGO nie jest najbardziej prawdopodobnym scenariuszem, ryzyka co do reputacji czy finansów są nadal realne, zwłaszcza przy deepfake’ach dotyczących osób publicznych. Dla organizacji pozarządowych warto już teraz wdrożyć kilka prostych kroków:

• przyjęcie wewnętrznych procedur: kiedy i jak oznaczamy treści AI (z przykładami najczęstszych formatów wykorzystywanych przez daną organizację),
• przegląd używanych narzędzi (Canva, edytory wideo, aplikacje do generowania głosu) pod kątem obsługi metadanych i Content Credentials [cyfrowy certyfikat autentyczności] – tak, by pliki mogły „zachować” informacje o pochodzeniu,
• szkolenia dla zespołu oraz wolontariuszy z rozróżniania deepfake’ów od zwykłych materiałów wspieranych przez AI, a także z praktycznych wymogów AI Act, zwłaszcza w obszarze komunikacji czy dokumentacji projektowej.

Kiedy trzeba oznaczać treści, a kiedy nie?

Dla organizacji pozarządowych szczególnie ważne są w tym względzie sytuacje, w których AI tworzy realistyczne materiały mogące wprowadzać odbiorcę w błąd co do ich pochodzenia:

• grafiki w prowadzonej kampanii z postaciami wygenerowanymi w AI, wyglądającymi jak realne osoby, używane np. w social mediach, ulotkach czy na stronie www,
• wideo z udziałem syntetycznego lektora imitującego prawdziwy głos znanej osoby lub przedstawiciela organizacji,
• „deepfake”, czyli np. wygenerowane nagranie polityka czy lidera społecznego, publikowane w debacie publicznej jako krytyka lub komentarz do lokalnej sytuacji,
• zdjęcia z wydarzeń, które nigdy się nie odbyły, ale zostały stworzone w AI tak, by wyglądały jak dokumentacja realnego działania (np. zachęcanie do zbiórki czy zaproszenie na warsztaty na przygotowanym w ten sposób plakacie).

W powyższych przypadkach (lub podobnych sytuacjach) przedstawiciele NGO muszą w wyraźny sposób poinformować odbiorców, że materiał jest efektem działania AI – np. poprzez podpis przy grafice, planszę w filmie, komunikat w opisie lub metadane zgodne z Content Credentials.

Z drugiej strony wiele zastosowań AI pozostanie dla NGO poza obowiązkiem oznaczania, o ile zachowany jest udział człowieka i odpowiedzialność redakcyjna:

• opisy projektów, artykuły, newslettery tworzone z pomocą różnych modeli językowych, ale redagowane oraz zatwierdzane przez człowieka – podobnie jak branżach komercyjnych, sam fakt wykorzystania AI nie wymusza automatycznego oznaczania,
• konsultacje wewnętrzne, czyli np. użycie AI do szkicowania pomysłów, pisania draftów wniosków, scenariuszy warsztatów lub konspektów podcastów, które następnie są modyfikowane przez zespół,
• materiały informacyjne publikowane w interesie publicznym, ale które zostały zweryfikowane przez człowieka i za które ponosi on odpowiedzialność redakcyjną – teksty o charakterze edukacyjnym czy informacyjnym nie będą odgórnie traktowane jak wspomniany „deepfake”.

Granica będzie przebiegała więc przede wszystkim między „treścią wspieraną przez AI” a realistycznie „zmanipulowanym obrazem rzeczywistości”, który może wprowadzać w błąd (ważna jest ocena odbiorcy, a nie wyłącznie twórcy) i pozwalać na osiągnięcie korzyści.

Jeśli potrzebujecie wsparcia przy przygotowaniu procedur związanych z AI Act – jesteśmy do Waszej dyspozycji. Możemy także pomóc Wam zaplanować szkolenia z AI, opracować zasady oznaczania treści i uporządkować niezbędne dokumenty w Waszej organizacji. Zachęcamy do kontaktu telefonicznego: 885-881-972 lub mailowego: kontakt@ciwis.kalisz.pl. Możecie także pisać do nas w naszych mediach społecznościowych.

Źródło: prawo.pl, Fot.: pixabay