|

"Prawdziwe zabezpieczenia muszą być losowe. Komputery są w tym po prostu lepsze od ludzi"

wojsko, AI, sztuczna inteligencja
wojsko, AI, sztuczna inteligencja
Źródło: Shutterstock

W październiku wicepremier Krzysztof Gawkowski zapowiedział powołanie nowego instytutu, odpowiedzialnego za rozwój sztucznej inteligencji w Polsce. Liderem tego projektu ma być prof. Piotr Sankowski. - Chcemy się skupić na umożliwieniu pracy młodym ludziom, tutaj w Polsce, nad globalnie innowacyjnymi projektami - deklaruje prof. Sankowski w rozmowie z tvn24.pl.

Artykuł dostępny w subskrypcji
  • NCBR niestety za poprzedniej władzy zaczęto postrzegać jako instytucję dysfunkcyjną. Przez kilka firm krzaków blokowano wypłaty i cofano finansowanie wartościowym projektom - podkreśla prof. Sankowski w rozmowie z tvn24.pl.
  • Według naukowca w finansowaniu badań "powinniśmy dbać przez wszystkim, żeby miały one kontynuację". - Potrzebne jest podejście na zasadzie sztafety: przyznając środki, ktoś powinien brać pod uwagę, czy po zakończeniu projektu badawczego znajdzie się dalsze finansowanie - na jego komercjalizację, marketing, skalowanie - tłumaczy profesor.
  • Chciałbym, żeby Instytut Ideas pełnił funkcję bramy dla globalnych innowacji. Polska, aby dalej się rozwijać, musi przebudować swój model rozwojowy. Dotychczas był on oparty na tańszej i wykwalifikowanej sile roboczej. Teraz musi być oparty na tworzeniu własności intelektualnej i innowacyjnych firm z polskim kapitałem - mówi Sankowski.

MIM Solutions, firma tworząca algorytmy i oprogramowanie sztucznej inteligencji, mieści się w przeszklonym biurowcu na warszawskiej Ochocie. Na zewnątrz żadnej informacji, że ma tu siedzibę. W środku oszczędnie, prosto, sterylnie. Białe tablice zapisane matematycznymi wzorami. Pracownicy przechodzący w skarpetkach.

Spółka założona przez profesora Piotra Sankowskiego oraz naukowców z Wydziału Matematyki, Informatyki i Mechaniki (MIM) Uniwersytetu Warszawskiego, specjalizuje się w uczeniu maszynowym (ang. machine learning), jednej z najbardziej prestiżowych gałęzi sektora technologicznego. A jej założyciel może wkrótce być najważniejszą osobą w kraju odpowiedzialną za rozwój sztucznej inteligencji.

Trenowanie algorytmów

Machine learning to technologia polegająca na "trenowaniu" algorytmów. Analizując duże zbiory danych, programy te wykrywają w nich wzorce i zależności. Z czasem stają się dzięki temu bardziej precyzyjne i podejmują trafniejsze decyzje. Komputer w ten sposób "uczy się" wykonywać zadania bez potrzeby programowania wszystkich ścieżek działania.

Na uczeniu maszynowym oparty jest np. ChatGPT - tzw. model językowy, "nauczony" na miliardach zdań i fragmentów tekstów z sieci. Algorytm analizując je, uczył się wzorców językowych - tego, jak ludzie używają słów, konstruują zdania, jak odpowiadają na pytania i jak formułują myśli.

Machine learning może mieć zastosowanie w wielu dziedzinach gospodarki i funkcjonowania państwa. W sektorze publicznym wykorzystuje się go na przykład, żeby lepiej planować urbanistykę i wykrywać nadużycia podatkowe. W finansach używa się do szacowania ryzyka kredytowego czy wykrywania prania brudnych pieniędzy. W opiece zdrowotnej AI oparta na uczeniu maszynowym pomaga diagnozować choroby. W przemyśle - automatyzuje produkcję.

Podobnie system Levander, opracowany przez izraelski wywiad - tzw. Jednostkę 8200 - do identyfikowania "powiązanych z Hamasem" celów w Gazie, u podstaw swojego działania ma machine learning.

Chaos w IDEAS NCBR i apel naukowców. "To psucie instytucji, która bardzo dobrze działała"
Źródło: Marek Nowicki/Fakty TVN

Nowy instytut AI

Pod koniec września profesor Sankowski sprawił, że temat sztucznej inteligencji znalazł się w centrum, głównie X-owej (dawniej twitterowej) debaty publicznej w Polsce. Poinformował wtedy, że kończy swoją współpracę z IDEAS NCBR, instytutem badawczym, którego był założycielem i prezesem.

IDEAS to powołany w 2021 r., w formie spółki zależnej Narodowego Centrum Badań i Rozwoju, ośrodek skoncentrowany na rozwoju i komercjalizacji sztucznej inteligencji. We wrześniu podjęto decyzję o zmianie prezesa IDEAS NCBR - Sankowskiego na stanowisku zastąpił dr hab. inż. Grzegorz Borowik z NASK, naukowiec mniej znany w środowisku ekspertów AI.

Po odejściu Sankowskiego wszystkich dziewięciu członków rady naukowej - badaczy i badaczek AI z uczelni takich jak Uniwersytet Oksfordzki czy Massachusetts Institute of Technology - w geście protestu zrezygnowało ze współpracy z IDEAS. W mediach społecznościowych zawrzało. W obronie profesora gremialnie wystąpiło wtedy środowisko akademickie.

3 października - po kilku dniach twitterowej burzy - wicepremier i minister cyfryzacji Krzysztof Gawkowski zorganizował wspólną konferencję z ministrem nauki Dariuszem Wieczorkiem i profesorem Sankowskim, na której zapowiedział przekształcenie IDEAS. Nowy instytut badawczy zajmujący się rozwojem AI w Polsce, jak tłumaczył, powstanie we współpracy NCBR, resortów nauki, obrony i cyfryzacji oraz polskich uczelni. - Liderem tego projektu powinien być pan profesor - oświadczył Gawkowski.

- Czym miałby być nowy ośrodek badawczy? - pytamy prof. Sankowskiego.

- Chciałbym, żeby Instytut Ideas pełnił funkcję bramy dla globalnych innowacji. Polska, aby dalej się rozwijać, musi przebudować swój model rozwojowy. Dotychczas był on oparty na tańszej i wykwalifikowanej sile roboczej. Teraz musi być oparty na tworzeniu własności intelektualnej i innowacyjnych firm z polskim kapitałem - tłumaczy.

I dodaje, że wszędzie na świecie katalizatorem w budowaniu innowacyjnych przedsiębiorstw są instytucje badawcze oraz uczelnie. - Dla całego procesu jest bardzo ważne wspieranie utalentowanych młodych ludzi w realizacji przełomowych projektów. Na tym aspekcie chcemy się skupić, budując Instytut Ideas, to znaczy na umożliwieniu pracy młodym ludziom, tutaj w Polsce, nad globalnie innowacyjnymi projektami - deklaruje prof. Sankowski w rozmowie z tvn24.pl.

W Polsce ma powstać nowy instytut, który zajmie się koordynacją prac nad sztuczną inteligencją
Źródło: Marek Nowicki/Fakty TVN

Reforma NCBR?

Na początku 2024 roku profesor Sankowski razem z profesorami Aleksandrem Mądrym i Maciejem Żyliczem zaproponowali koncepcję reformy finansowania innowacji w Polsce - w tym funkcjonowania NCBR - wzorowaną na amerykańskiej agencji rządowej DARPA (Defense Advanced Research Projects Agency). Jej zadaniem jest prowadzenie badań i rozwijanie przełomowych technologii, które mogą mieć zastosowanie w obronności.

Naukowcy zaproponowali m.in. system selekcji i weryfikacji grantobiorców, który mógłby ograniczyć dostęp do publicznych pieniędzy podejrzanym podmiotom. Według nich amerykański model jest dużo bardziej skuteczny, przejrzysty i uczciwy.

"Konieczna jest likwidacja korupcjogennego systemu" - pisał wtedy prof. Żylicz w liście do premiera Donalda Tuska.

- NCBR niestety za poprzedniej władzy zaczęto postrzegać jako instytucję dysfunkcyjną. Przez kilka firm krzaków blokowano wypłaty i cofano finansowanie wartościowym projektom badawczym - ocenia prof. Sankowski w rozmowie z tvn24.pl.

I dodaje: - W finansowaniu projektów rozwojowych B+R [na badania i rozwój - red.] powinniśmy dbać przede wszystkim, żeby miały one kontynuację. Potrzebne jest podejście na zasadzie sztafety: przyznając środki, ktoś powinien brać pod uwagę, czy po zakończeniu projektu badawczego znajdzie się dalsze finansowanie - na jego komercjalizację, marketing, skalowanie, monetyzację itd. Do tego trzeba wybierać projekty, które rokują komercyjnie i budzą zainteresowanie prywatnych funduszy. Mocniej wsłuchiwać się w to, co mówi rynek.

Czy to oznacza, że dzisiaj finansujemy wiele efemerycznych projektów?

Według profesora nie patrzymy, czy rynek w ogóle jest zainteresowany przejęciem tych projektów od państwa. - Nie sprawdzamy, czy projekt będzie miał potencjalnych klientów. Dlatego na przykład decyzja o przyznaniu publicznego finansowania powinna być związana z deklaracją jakiegoś funduszu, że jest potencjalnie zainteresowany inwestycją, jeżeli na przykład projekt badawczy przyniesie określone rezultaty - mówi Sankowski.

Bo projekty badawcze z zasady obarczone są ryzykiem, że się nie udadzą.

- W badaniach nigdy nie wiemy, co "nam wyjdzie". One mogą się nie udawać, nie muszą być sukcesem. To ryzyko jest zawsze w nie wpisane, ale z rynku można brać sygnał zwrotny: w te projekty fundusze są gotowe wejść, a w te nie. Nie musi nam się udać zrealizować technologii takiej, jaką sobie zamierzyliśmy, bo gdybyśmy wiedzieli w 100 procentach, że będzie ona działać, czy - jak mówił Albert Einstein - gdybyśmy wiedzieli, co robimy, to nie nazywałoby się nauką - dodaje profesor.

Profesorowie Sankowski, Żylicz i Mądry zaproponowali też wzmocnienie nadzoru ekspertów nad projektami badawczymi. - Chodzi po prostu o uczynienie ich bardziej niezależnymi. To nie mogą być anonimowe osoby, które nie ponoszą żadnej odpowiedzialności, ale uznani naukowcy, którzy na bieżąco konsultują projekty - zaznacza Sankowski.

Problem w tym, że dzisiaj NCBR nie podaje publicznie nawet nazwisk ekspertów, którzy oceniali konkretny projekt. - Eksperci powinni ponosić pewną odpowiedzialność za projekty, które nadzorują, choćby swoim nazwiskiem. Na przykład raz w miesiącu, na miejscu, sprawdzać, jak są one realizowane. Nie chodzi o nadzór restrykcyjny, biurokratyczny, jakieś niezapowiedziane kontrole i rozliczanie, czy odhaczyli wszystko z wniosku grantowego. Uważam, że rola eksperta powinna polegać też na pomocy i bieżącym konsultowaniu projektów. Eksperci powinni przede wszystkim rozumieć projekt, wiedzieć, co się w nim dzieje, w jakim kierunku zmierza i na jakie problemy może natrafić - tłumaczy Sankowski.

AI i armia

Pewną zmianą, którą może przejść nowy instytut zajmujący się sztuczną inteligencją, jest też udział resortu obrony w jego tworzeniu. Już w 2022 r. kierowany przez Sankowskiego IDEAS NCBR współpracował np. z Wojskową Akademią Techniczną, kierując do doktorantów WAT ofertę wsparcia merytorycznego i finansowego. Ale dotychczas strukturalnie instytut podlegał nadzorowi dyrektora NCBR. Ten z kolei podlegał albo pod ministerstwo nauki, albo - pod koniec rządów Zjednoczonej Prawicy - pod resort rozwoju.

Teraz to się zmieni.

3 października podczas konferencji z udziałem wicepremiera Gawkowskiego, na której zapowiedziano nowy instytut AI, Ministerstwo Obrony Narodowej reprezentował pułkownik Arkadiusz Kling.

- W Ideas wierzymy w rozwój AI podwójnego zastosowania [cywilno-wojskowego - red.]. Robiliśmy na przykład projekt z fundacją Polskie Towarzystwo Bezpieczeństwa Narodowego, wspólnie z Finlandią i Ukrainą, dedykowany do optymalizacji ochrony sieci energetycznej. AI pomaga tu lepiej zarządzać ograniczonymi zasobami - wszelkimi działaniami mającymi zagwarantować bezpieczeństwo dużych sieci energetycznych, na przykład cyklicznymi patrolami wokół infrastruktury. Powinniśmy nastawić się na to, że dużo rzeczy musimy stopniowo oddawać do zarządzania sztucznej inteligencji, choćby dlatego, że ona lepiej losuje, a w bezpieczeństwie nieprzewidywalność jest ważna, żeby uniknąć na przykład utartych schematów, że obchód jest zawsze o tej samej godzinie, i, jak w filmach szpiegowskich, mamy stałe okienko czasowe, kiedy można się włamać. Prawdziwe zabezpieczenia muszą tu być losowe. Komputery w tym aspekcie są po prostu lepsze od ludzi - przekonuje prof. Sankowski w rozmowie z tvn24.pl.

W sierpniu 2023 r. Sankowski udzielił też wywiadu portalowi cyberdefence24.pl, w którym mówił o potrzebie zmian we współpracy sektora bezpieczeństwa narodowego z polską nauką. Wskazywał na "brak kompatybilności" środowiska akademickiego i wojska oraz na problem "całkiem innej filozofii nauki", która według niego nie jest "nastawiona na dowiezienie rozwiązania".

"Brakuje zrozumienia, że zamawiający wymaga harmonogramu prac i że bierzemy na siebie odpowiedzialność za to, co robimy. Instytucje naukowe przyzwyczaiły się, że nie mają zobowiązań względem nikogo, podczas gdy inwestycje w badania nad rozwiązaniami w takiej dziedzinie jak kryptografia powinny być powiązane z oczekiwaniem czegoś w zamian od środowiska naukowców" - przekonywał.

"Zupełnie inaczej to wygląda w Izraelu, ale tego modelu nie da się - ot tak - skopiować. Tam najlepsi informatycy po studiach cywilnych walczą o to, żeby na okres obowiązkowej służby wojskowej trafić do wojsk obrony cyberprzestrzeni [chodzi o słynną Jednostkę 8200, która opracowała m.in. system Levander - red.], bo ta służba ustawia ich na całe życie" - dodał.

NCBR niestety za poprzedniej władzy zaczęto postrzegać jako instytucję dysfunkcyjną. Przez kilka firm krzaków blokowano wypłaty i cofano finansowanie wartościowym projektom - podkreśla prof. Sankowski w rozmowie z tvn24.pl.

Według naukowca w finansowaniu badań "powinniśmy dbać przez wszystkim, żeby miały one kontynuację". - Potrzebne jest podejście na zasadzie sztafety: przyznając środki, ktoś powinien brać pod uwagę, czy po zakończeniu projektu badawczego znajdzie się dalsze finansowanie - na jego komercjalizację, marketing, skalowanie - tłumaczy profesor.

Chciałbym, żeby Instytut Ideas pełnił funkcję bramy dla globalnych innowacji. Polska, aby dalej się rozwijać, musi przebudować swój model rozwojowy. Dotychczas był on oparty na tańszej i wykwalifikowanej sile roboczej. Teraz musi być oparty na tworzeniu własności intelektualnej i innowacyjnych firm z polskim kapitałem - mówi Sankowski.

Czytaj także: