GenAI, czyli generatywna sztuczna inteligencja, bierze świat szturmem. To, co w powszechnej świadomości zaczęło się od spopularyzowania ChatGPT, bardzo szybko przerodziło się w nowy rynek automatycznych asystentów zaprojektowanych z myślą o poprawie produktywności w różnych obszarach. Z badań wynika, że wdrożenie tej nowej technologii w projektach IT zwiększa nie tylko efektywność, ale także zadowolenie z pracy. Wydawać by się mogło, że jest to idealne rozwiązanie dla odwiecznej potrzeby zwiększania wydajności. Tylko czy GenAI to na pewno róża bez kolców?
Artykuł sponsorowanyW przypadku projektów IT korzyści wynikające z adaptacji narzędzi opartych o generatywną sztuczną inteligencję są jasne – ich wdrożeniem można nie tylko zaoszczędzić czas (nawet do 50% dla mniej skomplikowanych zadań), ale przede wszystkim umożliwić pracownikom skupienie się na najistotniejszych obszarach. Aby jednak być w stanie odpowiedzialnie doradzić organizacji w sprawie strategii wdrożenia narzędzi GenAI, konieczne jest zrozumienie zagrożeń wynikających z nieodpowiedniego użycia tej technologii. Te wynikają bowiem ze specyfiki nowego rozwiązania i dotyczą krytycznych obszarów związanych z poufnością, prawem własności intelektualnej czy bezpieczeństwem danych. Pokonanie tych wyzwań wymaga wyboru odpowiednich narzędzi, zapewnienia ich prawidłowej konfiguracji oraz przeszkolenia zespołu. To szczególnie ważne, bo w przypadku GenAI jest jeszcze jak z mitycznym Yeti – większość organizacji o asystentach wspomaganych AI coś słyszała, ale praktycznie żadna jeszcze nie widziała wdrożenia na własne oczy.
Jakie zagrożenia idą w parze z narzędziami GenAI?
Przedstawione poniżej ryzyka zostały zidentyfikowane w trakcie przeglądu narzędzi służących do generowania kodu aplikacji, jednak ze względu na specyfikę nowej technologii, lwia część z nich występuje w większości narzędzi wykorzystujących GenAI
1. Ryzyko naruszenia praw własności intelektualnej
W celu tzw. trenowania asystentów do tworzenia oprogramowania wykorzystywane są najczęściej repozytoria kodu udostępniane w Internecie w jednym z wielu wariantów licencji open source. Większość narzędzi GenAI dostępnych na rynku może wygenerować kod identyczny lub niezwykle zbliżony do kodu chronionego bardziej restrykcyjną licencją open source, np. GPL. Nawet nieświadome użycie takiego kodu w projekcie komercyjnym bez spełnienia warunków licencji oznacza narażenie firmy na konsekwencje prawne.
2. Ryzyko braku praw własności intelektualnej do wygenerowanych treści
Dostawcy narzędzi GenAI przekazują swoim użytkownikom prawa własności do wygenerowanych treści, co niestety nie jest równoznaczne z przekazaniem praw własności intelektualnej. W świetle obecnych regulacji prawa autorskie przysługują bowiem wyłącznie podmiotom prawnym zdolnym do wykonania pracy kreatywnej. Generatywna sztuczna inteligencja nie spełnia tej definicji.
3. Ryzyko bezpieczeństwa oraz poufności danych
Narzędzia GenAI są udoskonalane nie tylko w oparciu o dane z Internetu, ale w wielu przypadkach także o dane użytkowników. Aby móc wykluczyć udział własnych danych z procesu dalszego udoskonalania modelu najczęściej trzeba skorzystać z płatnych wersji oraz wyłączyć odpowiednie opcje w konfiguracji. Zdarzały się już przypadki, w których wprowadzony do narzędzia GenAI kod został zwrócony jako wynik dla zupełnie innego użytkownika. Podobny problem występuje w kwestii przechowywania danych – w przypadku wprowadzenia do konwersacji informacji poufnej wiadomość ta może być przechowywana na serwerach dostawcy narzędzia.
4. Ryzyko wygenerowania treści błędnych lub niskiej jakości
GenAI to nie jest jeszcze uniwersalna sztuczna inteligencja, a za jej działaniem nie kryje się magia – wynik pracy tych narzędzi to czysta matematyka. W przypadku generowania tekstu narzędzia te starają się „odgadnąć” właściwy wynik, słowo po słowie. Zdarzają się takie sytuacje, w których asystent GenAI z pełnym przekonaniem zwróci w wyniku całkowicie nieprawdziwą lub bardzo stronniczą odpowiedź.
Co warte odnotowania, dostawców rozwiązań GenAI cechują skrajnie różne podejścia do ochrony swoich klientów przed wspomnianymi zagrożeniami, szczególnie związanymi z ryzykiem naruszenia praw własności intelektualnej. Niektóre firmy oferują rozwiązania mające na celu minimalizację wystąpienia ryzyka, na przykład poprzez zastosowanie dodatkowych filtrów. Inni dostawcy, pod warunkiem spełnienia określonych kryteriów, deklarują wzięcie pełnej odpowiedzialności na siebie. Są jednak i firmy, które zrzucają wszelką odpowiedzialność na użytkownika. Przed rozpoczęciem korzystania z narzędzi GenAI należy bezwzględnie przeanalizować warunki korzystania.
Jak bezpiecznie wdrożyć narzędzia GenAI?
Nowa technologia zdecydowanie nie jest różą bez kolców, jednak umiejętne korzystanie z niej pozwoli uniknąć bolesnych doświadczeń. Rozważając wdrożenie rozwiązań GenAI, warto przedstawić trzy możliwe drogi, z czego rekomendowana może być tylko jedna.
Droga nr 1 – Udajemy, że GenAI nie ma
Opcja niekorzystna, bo wstrzymanie adopcji nowej technologii naraża organizację na utratę konkurencyjności na rynku – tak ze względu na rywali, którzy mogą zyskać dzięki GenAI przewagę, jak i ze względu na ryzyko odejścia utalentowanych pracowników. Jest to również droga dość niebezpieczna, bo nawet wprowadzając zakaz użycia asystentów AI, z dużym prawdopodobieństwem można stwierdzić, że znajdzie się ktoś, kto będzie używał niedozwolonych narzędzi w ukryciu. Argument ten bardzo dobrze trafia do odbiorców, bo ukryte ryzyko nie oznacza przecież braku ryzyka.
Droga nr 2 – Pozwalamy na wszystko
To droga prosta, ale obarczona największym ryzykiem. Nieograniczone żadnymi zasadami użycie narzędzi GenAI prędzej czy później skończy się problemem, bo na rynku występuje dużo narzędzi, a wiele z nich udostępnianych jest pozornie bezpłatnie. Dużą naiwnością byłoby brać za pewnik, że każdy ze współpracowników będzie w stanie odpowiedzialnie wybrać narzędzie i rozsądnie z niego korzystać.
Droga nr 3, rekomendowana – Zezwolenie na użycie w oparciu o jasne wytyczne
Taktyka zdecydowanie najbardziej wymagająca, ale i najbezpieczniejsza. Ta ścieżka zachęca do korzystania z narzędzi GenAI, ale tylko pod warunkiem zachowania zgodności z wytycznymi, które powinny wskazać konkretne dopuszczone do użycia narzędzia, a także ich wymaganą wersję oraz konfigurację. Celem jest wyposażenie współpracowników nie tylko w narzędzia, ale i wiedzę o zagrożeniach. To podejście nie wyeliminuje ryzyka, ale ograniczy je do akceptowalnego poziomu.
Rozważając wdrożenie zasad użycia narzędzi GenAI, warto jasno rozróżnić dwie kategorie opisujące podstawowe przypadki użycia: do inspiracji (gdzie rezultat działania narzędzi wykorzystujących generatywną sztuczną inteligencję nie będzie integrowany z pozostałymi artefaktami projektowymi) oraz do pracy projektowej (gdzie wynik pracy tych narzędzi będzie mocno związany z głównymi artefaktami projektowymi).
Jak zacząć rozmowę w organizacji?
Przede wszystkim nie można zakładać, że sposób działania narzędzi GenAI oraz korzyści płynące z ich wdrożenia są powszechnie znane. Nie jest również tak, że wszyscy w organizacji są świadomi ryzyk wynikających z ich nieodpowiedzialnego użycia. Warto zatem dobrze się przygotować i działać metodycznie.
- Porozmawiaj ze współpracownikami. Sprawdź, kto już używa narzędzi GenAI (tak, to już może się dziać) i jakie mogą być korzyści z ich użycia.
- Wprowadzając w temat zacznij od krótkiego wyjaśnienia mechaniki działania – GenAI to nie magia, tylko matematyka.
- Wskaż korzyści dla biznesu, najlepiej na konkretnych przykładach i w oparciu o wskazówki od zespołu.
- Mów otwarcie o występujących ryzykach, zwłaszcza w kontekście praw własności intelektualnej.
- Przedstaw trzy podejścia do wdrożenia nowych narzędzi. Uczul szczególnie na ryzyko związane z niepodjęciem żadnej decyzji, czyli drogę nr 1.
- Zaproponuj weryfikację dostępnych na rynku narzędzi oraz przygotowanie wewnętrznych wytycznych, rozważ wdrożenie testowe w mniejszej grupie.
„Sztuczna inteligencja nie zabierze Twojej pracy. Zrobi to ktoś używający sztucznej inteligencji”
– Prof. Richard E. Baldwin
Generatywna sztuczna inteligencja ma potencjał zapoczątkowania zupełnie nowego rozdziału w procesie transformacji cyfrowej firm. Technologia nadal jest w fazie dynamicznego rozwoju, ale już teraz dobrze dobrane narzędzia potrafią przynieść niezwykłe korzyści i wpłynąć na konkurencyjność organizacji. Rozważając wdrożenie asystentów GenAI w projektach komercyjnych, warto jednak pamiętać, że w tej beczce miodu jest też łyżka dziegciu, a nieodpowiedzialna adopcja nowej technologii może być brzemienna w skutkach. Mimo to nie warto zwlekać, bo odpowiedzialne, oparte o jasne wytyczne wdrożenia pozwalają organizacjom uzyskiwać przewagę na rynku, a pracownikom wzbijać się na wyżyny produktywności.
Delivery Manager z wykształceniem technicznym w dziedzinie rozwoju oprogramowania. Pasjonat branży IT związany z nią ściśle od 10 lat, w tym od 7 lat w ramach projektów komercyjnych. Doświadczony w projektach dotyczących aplikacji mobilnych oraz webowych, prowadzonych we współpracy tak z międzynarodowymi korporacjami jak i startupami. Posiadacz certyfikatów KMP, PSPO, PSM II. Obecnie współpracuje z firmą Xebia Poland oraz Wyższą Szkołą Informatyki i Zarządzania.