Jak dowodzi opracowany przez Awareways raport pt. The rise of the invisible colleague: Shadow AI, prawie 60% pracowników używa do celów służbowych nieautoryzowanego oprogramowania AI. W efekcie wiele firm dubluje wydatki na podobne rozwiązania i ponosi koszty, których wcześniej nie zaplanowano. Problem ten dotyczy głównie licencji, ale może też rozlewać się na inne dziedziny działalności. Gartner szacuje, że do 2030 roku BYOAI wygeneruje incydenty związane z bezpieczeństwem i naruszeniami prawa w ponad 40% organizacji.
Firmy potrzebują Governance AI
Sztuczna inteligencja może więc szybko przyczynić się do utraty kontroli nad firmowymi finansami. Jak zauważają eksperci Forscope, dla działów IT będzie to nowa kategoria ryzyka biznesowego, wymagająca uwzględnienia w procesach zarządzania oprogramowaniem.
Jiri Trampota z Forscope komentuje:
W organizacjach często dochodzi do sytuacji, w której równolegle wykorzystuje się wiele licencji na różne systemy sztucznej inteligencji. Każdy dział dysponuje własnymi zasobami AI i nie informuje o tym fakcie innych zespołów. Tak rodzi się chaos, a wraz z nim dodatkowe wydatki.
Optymalizacja kosztów sztucznej inteligencji nie będzie jednak możliwa bez rzetelnej inwentaryzacji i opracowania nowych metod pomiaru. Ich zadaniem musi być przede wszystkim kontrola rzeczywistego wykorzystania licencji i tokenów oraz ocena przydatności AI do celów biznesowych organizacji. Znaczenie audytów potwierdzają m.in. dane Gartnera. Pokazują one, że firmy regularnie kontrolujące swoje zasoby mają ponad 3-krotnie większe szanse na uzyskanie korzyści z inwestycji w AI niż organizacje, które tego nie robią. Oznacza to, że nadzór nad licencjami to nie tylko narzędzie redukcji kosztów, lecz także sposób na zapewnienie firmie przewagi konkurencyjnej.
Problem z tokenami
Bałagan w licencjach to jednak niejedyny problem, z którym będą musiały zmierzyć się organizacje. Wszystko za sprawą szybko rozwijających się agentów AI, które wykorzystują wielokrotnie więcej tokenów niż standardowe chaty. Zgodnie z szacunkami Goldman Sachs, zużycie tokenów ma do roku 2030 zwiększyć się 24-krotnie i jeśli firmy w porę nie zapanują nad ich konsumpcją, wpadną w kolejną pułapkę. Agenty AI pracują bowiem autonomicznie, a każde ich działanie wiąże się z kosztami. Usługi agentów rozliczane są w oparciu o liczbę faktycznie wykorzystanych tokenów, która jest trudna do przewidzenia i komplikuje planowanie budżetów.
Źródło informacji: Forscope
Zdjęcie: ChatGPT