Sztuczna inteligencja w OFF Radiu Kraków pod lupą Urzędu Ochrony Danych Osobowych i posłanki

Jak poinformował nas Karol Witowski, rzecznik Urzędu Ochrony Danych Osobowych (UODO), urząd ten "przygląda się sytuacji związanej z wykorzystaniem sztucznej inteligencji" w kontekście "przetwarzania przez nią danych osobowych w różnych aspektach". Podkreślił jednocześnie, że "póki co nie zostały podjęte działania" wobec rozgłośni.

Czytaj też: "Nie zgadzam się na to, by mobbować". Będzie konkurs na nowego dyrektora

Z końcem sierpnia rozgłośnia rozstała się ze współpracownikami - dziennikarzami, którzy mieli tam audycje. Jak twierdzi likwidator i redaktor naczelny Radia Kraków Marcin Pulit, miało to związek ze słabymi wynikami oraz ze zmianami programowymi.

OFF Radio Kraków od wtorku, 22 października, na swojej antenie emituje oprócz muzyki treści stworzone niemal w całości przez sztuczną inteligencję. Nowa odsłona stacji spotkała się z lawiną krytyki, szczególnie po wyemitowaniu "wywiadu" nieistniejącej dziennikarki z wygenerowanym przez sztuczną inteligencję głosem Wisławy Szymborskiej.

Sprawą zainteresowała się m.in. posłanka Lewicy Razem Daria Gosek-Popiołek, która w środę wystosowała w tej sprawie pisma do ministerstwa kultury i redaktora naczelnego oraz likwidatora Radia Kraków Marcina Pulita. W tym drugim piśmie parlamentarzystka prosi o wyjaśnienia w sprawie m.in. weryfikacji treści generowanych przez AI, używanych modeli sztucznej inteligencji oraz trybu rozwiązania umów z dziennikarzami OFF Radia Kraków.

W piśmie do ministerstwa Gosek-Popiołek podkreśla, że projekt jest "niebezpiecznym precedensem" oraz że "rodzi on pytania o odpowiedzialność za treści tworzone przez publiczną rozgłośnię oraz etykę i misję mediów publicznych, której publiczne media powinny bezwzględnie przestrzegać".

"Zastąpienia dziennikarzy pracą AI jest w tej perspektywie nie tylko głęboko nieetyczne, ale i szkodliwe, biorąc pod uwagę konstytucyjną misję mediów publicznych" - uważa posłanka Gosek-Popiołek. Przedstawicielka Lewicy Razem pyta szefową resortu Hannę Wróblewską, czy według ministerstwa "fakt zastąpienia dziennikarzy wygenerowanymi przez AI 'postaciami' nie stoi w sprzeczności z ustawami regulującymi funkcjonowanie mediów w tym Konstytucję RP", a także "jakie działania (zarówno interwencyjne jak i legislacyjne) planuje podjąć Ministerstwo Kultury i Dziedzictwa Narodowego w sprawie wpływu AI na model funkcjonowania mediów i dziennikarzy w Polsce".

Czytaj też: Przełomowe badania Polaków w diagnozie glejaka. Wykorzystali autorski tomograf

Centrum informacyjne Ministerstwa Kultury w odpowiedzi na pytania tvn24.pl nie odniosło się do sytuacji w Radiu Kraków poza stwierdzeniem, że "Minister Kultury i Dziedzictwa Narodowego nie może wydawać zarządzającemu (tj. likwidatorowi) wiążących poleceń dotyczących prowadzenia spraw spółki". W otrzymanym przez nas mailu czytamy też, że zgodnie z Kodeksem spółek handlowych "kwestie dotyczące zatrudnienia pracowników oraz umów ze współpracownikami należą do kompetencji likwidatora Radio Kraków S.A. w likwidacji".

Resort poinformował też, że "pozostaje w stałym dialogu z przedstawicielami mediów w zakresie możliwych negatywnych skutków AI na rynek medialny".

"Dostrzegamy ryzyka związane z wykorzystaniem AI w mediach, w szczególności wykorzystywania sztucznej inteligencji do tworzenia rzetelnych i wiarygodnych mediów. Mając na uwadze ważkość zagadnienia związanego z coraz większym rozwojem AI, a także jej wykorzystaniem w mediach, MKiDN postanowiło, iż zagadnienia związane z tym tematem będą jednym z priorytetów ministerstwa podczas polskiej prezydencji w Radzie UE w pierwszej połowie 2025 r." - czytamy w przesłanym nam oświadczeniu.

Jako pierwszy o tym, że UODO interesuje się kontrowersyjnymi zmianami w OFF Radiu Kraków poinformował Michał Dąbrowski z Radia Łódź. Prezes urzędu Mirosław Wróblewski w rozmowie z tą rozgłośnią poinformował, że jego urzędnicy "obserwują" wykorzystanie sztucznej inteligencji w krakowskim radiu. - Istotne jest to, czy w tej sprawie zostały wykorzystane dane osobowe, czy stało się to zgodnie z prawem i z zasadami - powiedział prezes.

W odpowiedzi na pytania tvn24.pl dotyczące wywiadu z wygenerowaną przez AI Wisławą Szymborską Karol Witowski z UODO odpowiedział, że osoby zmarłe nie są chronione przepisami RODO, jednak ich bliskim przysługuje "prawo do ochrony ich dobra osobistego, jakim jest kult pamięci osoby zmarłej".

"W przypadku naruszenia dóbr osobistych, rodzina czy bliscy zmarłego mogą dochodzić ochrony praw i ewentualnego zadośćuczynienia przed właściwym sądem cywilnym" - poinformował Karol Witkowski. Dodał, że "prezes Urzędu Ochrony Danych Osobowych nie prowadzi spraw o naruszenie dóbr osobistych".

W poniedziałek wieczorem na burzę wokół OFF Radia Kraków zareagował wicepremier, minister cyfryzacji Krzysztof Gawkowski z Nowej Lewicy. "Przeczytałem historię Mateusza Demskiego związaną z zastępowaniem dziennikarzy przez sztuczną inteligencję w OFF Radio Kraków i choć jestem fanem rozwoju AI to uważam, że pewne granice są coraz bardziej przekraczane" - napisał minister.

Wiceszef rządu ocenił, że "sztuczna inteligencja nie może powodować różnic społecznych czy wykluczenia", a "symbiozę AI i człowieka trzeba dobrze uregulować". Dodał, że ma w tym pomóc przyjęcie AI Act, a "powołanie Komisji Rozwoju i Bezpieczeństwa AI ma takim i podobnym sytuacjom przeciwdziałać".

"I najważniejsza sprawa! Powszechne wykorzystanie AI musi być robione dla ludzi, nie przeciwko nim!" - zakończył wicepremier.

Mateusz Demski, do którego apelu odniósł się Gawkowski, jest byłym dziennikarzem OFF Radia Kraków. To on opublikował w internecie list otwarty, który odbił się szerokim echem po środowisku dziennikarskim i nie tylko. - Jeszcze przed kilkoma miesiącami byli tam (w OFF Radiu Kraków - red.) żywi ludzie, współpracownicy i współpracowniczki. Teraz są tam trzy wygenerowane za pomocą sztucznej inteligencji istoty. W jakimś sensie zostaliśmy zastąpieni - powiedział Demski w rozmowie z dziennikarzami "Faktów" TVN.

Jeszcze większą burzę wywołał "wywiad" na temat tegorocznej Nagrody Nobla z Wisławą Szymborską, nieżyjącą od 12 lat noblistką. Na taką zmyśloną rozmowę zgodził się sekretarz poetki i szef fundacji jej imienia Michał Rusinek.

W środę po południu Mateusz Demski przekazał, że list w sprawie sytuacji w krakowskiej rozgłośni wysłał do kilku ministerstw. "Nie wyobrażamy sobie, by – w obliczu zaistniałej sytuacji – Pan (Marcin - red.) Pulit miał w przyszłości być przykładem dla nowych dziennikarzy i uczyć ich zawodu" - to jego fragment. Demski podkreślił, że apel o powstrzymanie zmian w OFF Radiu Kraków podpisało ponad 17,5 tysiąca osób.

Likwidator Radia Kraków i jego redaktor naczelny, a także twarz zmian w OFF Radiu Kraków, w rozmowie z "Faktami" TVN zaznaczył, że żaden dziennikarz nie został zwolniony (nieprzedłużone zostały umowy cywilnoprawne, a nie umowy o pracę), a zakończenie współpracy z dotychczasowymi prowadzącymi nie ma związku z wprowadzeniem audycji emitowanych z pomocą sztucznej inteligencji. - Powodem zmian jest zmiana programowa. Chodzi o to, że programy, które były w OFF Radiu Kraków, dublowały się z tym, co mamy w naszym drugim kanale internetowo-cyfrowym Radio Kraków Kultura i z główną anteną. My musimy te trzy różne programy zróżnicować - powiedział Marcin Pulit.

Likwidator podkreślił, że projekt ma potrwać maksymalnie trzy miesiące, a do OFF Radia Kraków mają wrócić żywi ludzie - młodzi adepci dziennikarstwa. Przed falą krytyki Marcin Pulit nie podawał publicznie takich informacji.

Dr Agnieszka Całek z Zakładu Nowych Mediów w Instytucie Dziennikarstwa, Mediów i Komunikacji Społecznej Uniwersytetu Jagiellońskiego, w rozmowie z tvn24.pl zwróciła uwagę, że określenie "eksperyment" używane jest przez rozgłośnię "raczej w znaczeniu potocznym, a nie naukowym". - Jak dotąd nie poznaliśmy założeń tego projektu badawczego, nie wiadomo, co było przedmiotem obserwacji, jakie były zmienne, jak kontrolowano warunki, czy ludzcy uczestnicy wyrazili zgodę na udział, itd. Nie podano też do publicznej wiadomości, kto odpowiada za metodologię takiego eksperymentu, czy odbywał się on pod okiem jakiejś komisji etycznej zajmującej się takimi badaniami. Trudno bez tych informacji uznać, że jest to naukowe przedsięwzięcie - podkreśliła.

Medioznawczyni dodała jednak, że projekt OFF Radia Kraków "na pewno przysłuży się medioznawstwu i innym naukom społecznym jako interesujący przypadek do analizy i temat do akademickich dyskusji".

Pytana przez nas o wywiad z Wisławą Szymborską Całek podkreśliła, że jest to dla niej "najbardziej wątpliwy etycznie element tego projektu". - Tej oceny nie zmieniają ani zgody w tym konkretnym przypadku, ani też wyjaśnienia, że pod kątem prawnym wszystko jest w porządku. Faktycznie jest, ale tylko dlatego, że prawo nie nadąża za rozwojem technologicznym - stwierdziła naukowczyni. - W ten sposób można włożyć dowolną treść w usta każdego, żywego lub martwego, kto pozostawił po sobie próbkę głosu. A po drugie, jak tylko treść zostanie wyemitowana, medium traci nad nią kontrolę i taki "wywiad" zaczyna żyć własnym życiem, dołączającą do właściwie już niepoliczalnych terabajtów sieciowych zasobów, z których i tak coraz trudniej wyłuskać wartościowe informacje - oceniła dr Całek.

Medioznawczyni dodała też, że "wielu odbiorców nie ma narzędzi, by sobie radzić z tak tworzonymi materiałami" jak wygenerowany wywiad z nieżyjącą noblistką.