Obawy związane z AI i bezpieczeństwem danych

Bezpieczeństwo i niezawodność danych od dawna mają kluczowe znaczenie dla powodzenia inicjatyw biznesowych. Jednak szybki postęp w sztucznej inteligencji (AI) sprawił, że te elementy stały się jeszcze ważniejsze. Pewność, że sztuczna inteligencja jest zasilana dokładnymi, kompleksowymi danymi to klucz do wykorzystania jej pełnego potencjału.

Niemal 9 na 10 (87%) analityków i liderów IT zgadza się z tym, że postęp w sztucznej inteligencji sprawił, że zarządzanie danymi staje się coraz wyższym priorytetem. Najnowszy raport Salesforce „State of Data and Analytics” wskazuje na brak zaufania respondentów do dokładności danych. Ponadto, największym wyzwaniem w zarządzaniu danymi i ich wykorzystywaniu do potrzeb biznesowych okazało się ich bezpieczeństwo.

Brak wiarygodnych danych budzi strach przed utratą korzyści płynących ze sztucznej inteligencji

Obecnie firmy koncentrują się na wykorzystaniu generatywnej sztucznej inteligencji w celu poprawy produktywności, wydajności i zwiększenia przychodów. Od tworzenia treści, aż po rozwój oprogramowania – liderzy biznesowi w pełni przyjmują dobrodziejstwa płynące z generatywnej sztucznej inteligencji. Najnowsze badania Salesforce pokazują, że pierwsi użytkownicy już zauważają rezultaty, w tym krótszy czas rozwiązywania problemów w zakresie obsługi klienta i zwiększoną sprzedaż. Nic więc dziwnego, że firmy boją się pozostać w tyle.

Aby skorzystać z dobrodziejstw sztucznej inteligencji, firmy muszą jednak najpierw uporządkować swoje dane. Wspieranie skutecznej sztucznej inteligencji wymaga bezpiecznych i niezawodnych danych wejściowych. 92% analityków i liderów IT twierdzi, że zapotrzebowanie na zaufane dane jest większe niż kiedykolwiek.

Z zaufaniem do danych bywa dziś różnie

Zespoły znajdujące się najbliżej danych, na przykład analitycy, mają największe zaufanie do dokładności swoich danych. Jednak nawet te zespoły mają duże pole do poprawy: tylko 57% liderów działów analityki jest całkowicie pewnych swoich danych. Działy biznesowe takie jak marketing, sprzedaż i usługi są jeszcze bardziej sceptyczne, a średnio tylko 43% z nich całkowicie ufa swoim danym.

Zespoły obsługi klienta, których wydajność zależy od terminowego i dokładnego połączenia danych zwrotnych od klientów, informacji o zgłoszeniach do pomocy technicznej czy też szczegółów dotyczących produktów i informacji o klientach, mają szczególnie dużo wątpliwości co do jakości swoich danych.

Zagrożenia bezpieczeństwa i brak harmonizacji danych utrudniają ich wiarygodność

Podczas gdy brak zaufania podkreśla walkę firm o wykorzystanie danych jako podstawy rozwiązań opartych na sztucznej inteligencji, to jednak największym wyzwaniem wśród ankietowanych są zagrożenia bezpieczeństwa danych.

Niedawne opublikowane badanie Salesforce pokazało, że aż 65% liderów IT doświadczyło naruszenia bezpieczeństwa w okresie od czerwca 2021 r. do czerwca 2022 r. Wśród tych, którzy doświadczyli naruszenia, 35% nie było w stanie odzyskać żadnych danych. Generatywna sztuczna inteligencja niesie ze sobą dodatkowe ryzyko wycieku zastrzeżonych danych firmowych do publicznych, dużych modeli językowych.

Rosnące obawy związane z cyberbezpieczeństwem są potęgowane przez inny ważny czynnik: dane organizacyjne rosną zarówno pod względem ilości, jak i złożoności, zwiększając poziom zagrożenia.

Ponad dwie trzecie (68%) zespołów analitycznych i informatycznych przewiduje wzrost ilości danych w ciągu najbliższych 12 miesięcy. Przewidują oni, że wzrost ten będzie znaczny. Średnio liderzy techniczni spodziewają się około 20% wzrostu w różnych miejscach: w danych własnych, danych stron trzecich i danych urządzeń. Ich przewidywania są jednak prawdopodobnie mocno zaniżone, biorąc pod uwagę dane płynące z niezależnych badań.

Zarządzanie przyrastającą liczbą danych pochodzących z wielu różnych źródeł jest czymś więcej, niż tylko kwestią bezpieczeństwa. To techniczne wyzwanie do standaryzacji. Zaraz po zagrożeniach związanych z bezpieczeństwem, firmy wymieniają brak harmonizacji danych, jako największą barierę w wydobywaniu z nich wartości. Dalsze skutki utrzymywania rozproszonych, silosowych danych przekładają się na przytłaczające ilości danych i brak jednego źródła prawdy, a to według badanych główne bariery w wykorzystywaniu własnych danych. Podają oni również brak szkoleń i skutecznych sposobów wydobywania informacji jako kolejne, duże wyzwania związane z danymi w ich organizacjach.

Zarządzanie danymi i kultura danych kluczem do skutecznego wykorzystania danych

Kluczową częścią budowania sukcesu sztucznej inteligencji jest zarządzanie danymi – zestaw zasad lub polityk, zgodnie z którymi informacje są gromadzone, zarządzane, przechowywane, mierzone i przekazywane w organizacji.

Ustanawiając jasne i czytelne zasady dostępu do danych, ich dokładności, prywatności, bezpieczeństwa i przechowywania, doświadczeni liderzy wykorzystują zarządzanie danymi w celu zapewnienia jakości, demokratyzacji dostępu i ochrony prywatności. Skuteczne zarządzanie danymi może zapewnić jasność w kluczowych kwestiach. Dotyczą one przede wszystkim tego danych czy dane są poprawne i bez rozbieżności, czy są kompletne, czy są wiarygodności oraz trafne.

Zdecydowana większość ankietowanych deklaruje, że wykorzystuje zarządzanie danymi jako narzędzie do zapewnienia i certyfikacji podstawowej jakości danych (85%), ramy do wzbudzania zaufania do danych (84%) oraz skuteczny sposób na demokratyzację dostępu do danych (81%).

Oczywiście poprawa zaufania do danych to coś więcej niż tylko rozwiązanie techniczne. Wspieranie silnej kultury danych – tworzenie sposobu myślenia i praktyki wokół wartości bycia firmą opartą na danych ma kluczowe znaczenie dla zwiększenia zaufania. Badania wykazały, że firmy oparte na danych osiągają lepsze wyniki pod względem niemal każdego wskaźnika.

Kluczowe dane z raportu Salesforce:

Zarządzanie danymi:

87% liderów analityki i IT zgadza się, że postępy w dziedzinie sztucznej inteligencji sprawiają, że zarządzanie danymi ma wyższy priorytet
92% z nich zgadza się, że potrzeba wiarygodnych danych jest wyższa niż kiedykolwiek wcześniej
57% ankietowanych jest całkowicie pewnych swoich danych
68% zespołów analitycznych i zespołów IT przewiduje wzrost ilości danych w ciągu najbliższych 12 miesięcy.

Priorytety biznesowe:

77% liderów biznesowych obawia się, że ich firma traci korzyści płynące z generatywnej sztucznej inteligencji.
Poprawa jakości danych jest priorytetem nr 1 dla liderów analityki i IT
Zagrożenia bezpieczeństwa to wyzwanie nr 1 dla liderów biznesu, analityki i IT
Ponad 7 na 10 firm zwiększa budżety na narzędzia do analizy danych i szkolenia z tego zakresu

Zarządzanie danymi:

85% liderów analityki i IT wykorzystuje zarządzanie danymi, jako narzędzie do zapewnienia i certyfikacji podstawowej jakości danych.
84% liderów analityki i IT wykorzystuje zarządzanie danymi. jako ramy do wzbudzania zaufania do danych.

Przeczytaj również:

Agenci AI pomogą w rozwoju ich kariery

92% programistów przewiduje, że agenci AI pomogą w rozwoju ich kariery Ostatnie badanie Salesforce „State of IT” pokazuje, że liderzy branży oprogramowania z optymizmem patrzą na rozwój agentów AI oraz ich wpływ na sektor. Ponad 90% programistów z entuzjazmem podchodzi do wpływu sztucznej inteligencji na ich kariery, a aż 96% spodziewa się, że poprawi ona doświadczenie deweloperskie. Najnowszy raport Salesforce State of IT pokazuje, że dla obszaru EMEA (Europe, the Middle East and Africa) aż 79% liderów branży uważa, iż agenci AI staną się równie nieodzownym narzędziem w tworzeniu aplikacji, co tradycyjne technologie programistyczne. Badanie obejmujące ponad 2000 liderów branży oprogramowania (w tym 1000 z EMEA) oraz dodatkowa ankieta wśród 250 programistów z USA pokazują niemal jednomyślny entuzjazm wobec agentów AI. Deweloperzy widzą w nich nie tylko sposób na zwiększenie efektywności i produktywności – aż 92% twierdzi, że „agentowa AI” pomoże im w rozwoju kariery. Niektórzy zwracają jednak uwagę, że zarówno oni sami, jak i ich firmy, potrzebują dodatkowych szkoleń oraz zasobów, aby skutecznie budować i wdrażać cyfrowych agentów. Dlaczego jest to istotne? Często mówi się, że programiści podchodzą do AI z rezerwą, jednak nowe badania pokazują coś zupełnie innego – deweloperzy z entuzjazmem przyjmują zmiany związane z agentami AI. Ich rozwój otwiera przed nimi nowe możliwości: mogą poświęcać mniej czasu na pisanie kodu i debugowanie, a skupić się na bardziej strategicznych zadaniach. Co więcej, dzięki coraz powszechniejszemu wykorzystaniu agentów opartych na narzędziach low-code/no-code, proces tworzenia oprogramowania staje się szybszy, prostszy i bardziej efektywny – niezależnie od poziomu umiejętności programistycznych. – Agenci AI zmieniają sposób pracy programistów, sprawiając, że tworzenie oprogramowania staje się szybsze, bardziej efektywne i po prostu przyjemniejsze. Dzięki nim cały proces przebiega sprawniej – AI wspiera programistów w pisaniu, przeglądaniu i optymalizacji kodu, co przekłada się na nowy poziom produktywności. Automatyzując żmudne zadania, takie jak czyszczenie danych, integracja czy podstawowe testy, agenci AI pozwalają deweloperom skupić się na tym, co najważniejsze: rozwiązywaniu złożonych problemów, projektowaniu architektury i podejmowaniu strategicznych decyzji – komentuje Alice Steinglass, EVP & GM, Platform, Integration and Automation w Salesforce. Wpływ agentów AI w liczbach Programiści z entuzjazmem podchodzą do agentów AI oraz wpływu sztucznej inteligencji na ich karierę Ankietowani deweloperzy cieszą się na myśl o tym, że agenci AI przejmą proste, powtarzalne zadania, pozwalając im skupić się na projektach o większym znaczeniu biznesowym: 96% programistów pozytywnie ocenia wpływ agentów AI na ich codzienną pracę. Największe zainteresowanie budzi wykorzystanie agentów AI do debugowania i rozwiązywania błędów, a następnie do generowania przypadków testowych oraz tworzenia powtarzalnego kodu. Ten trend pojawił się w momencie, gdy już 92% programistów chce mierzyć swoją produktywność nie liczbą linii kodu, ale rzeczywistym wpływem ich pracy na rozwój organizacji. Dzięki agentom AI deweloperzy spodziewają się większego zaangażowania w strategiczne projekty, takie jak nadzór nad AI czy projektowanie złożonych systemów. Dzięki agentom AI opartym na narzędziach low-code/no-code, programiści na każdym poziomie zaawansowania mogą teraz tworzyć i wdrażać inteligentnych asystentów. Badani wskazują, że takie rozwiązania mogą przyczynić się do demokratyzacji i skalowania rozwoju AI: 82% programistów z EMEA korzystających z agentów AI używa obecnie narzędzi low-code/no-code. 77% uważa, że low-code/no-code może pomóc w upowszechnieniu rozwoju AI. 76% twierdzi, że te narzędzia mogą przyspieszyć skalowanie rozwiązań opartych na sztucznej inteligencji. Secret Escapes, platforma oferująca luksusowe hotele i podróże w promocyjnych cenach na całym świecie, wykorzystuje Agentforce, aby usprawnić obsługę klientów i szybciej odpowiadać na nietypowe zapytania podróżnych. Dzięki narzędziom Salesforce Agent Builder opartym na low-code, zespół deweloperów Secret Escapes zbudował, przetestował i wdrożył swojego agenta AI w zaledwie dwa tygodnie – zamiast sześciu miesięcy, które wcześniej zajmowało stworzenie i szkolenie bota. Deweloperzy oczekują większych zasobów do budowy agentów AI Deweloperzy twierdzą, że zaktualizowana infrastruktura, więcej możliwości testowania oraz szkoleń są kluczowe, gdy przechodzą na tworzenie i wdrażanie agentów AI. Potrzeby infrastrukturalne: Wielu deweloperów (78%) uważa, że ich organizacje muszą zaktualizować infrastrukturę, aby tworzyć i wdrażać agentów AI.Niemal połowa (48%) deweloperów uważa, że jakość i dokładność ich danych nie jest wystarczająca do skutecznego rozwoju i wdrożenia agentów. Możliwości testowania: Połowa (48%) deweloperów twierdzi, że ich procesy testowe nie są w pełni przygotowane do budowy i wdrażania agentów AI. Umiejętności i wiedza: 77% deweloperów uważa, że znajomość AI wkrótce stanie się podstawową umiejętnością w ich zawodzie, ale ponad połowa (54%) nie czuje, że są w pełni gotowi na erę agentów pod względem ich umiejętności. Respondenci ankiety wskazali szkolenie z zakresu technicznych umiejętności AI oraz redefinicję obecnych ról jako najważniejsze obszary, w których pracodawcy powinni udzielić im wsparcia. Dane pochodzą z segmentu liderów rozwoju oprogramowania, uzyskanych w ramach podwójnie anonimowej ankiety wśród decydentów IT, przeprowadzonej w okresie od 24 grudnia 2024 roku do 3 lutego 2025 roku. Respondenci pochodzą z Australii, Belgii, Brazylii, Kanady, Danii, Finlandii, Francji, Niemiec, Indii, Indonezji, Irlandii, Izraela, Włoch, Japonii, Meksyku, Holandii, Nowej Zelandii, Norwegii, Portugalii, Singapuru, Korei Południowej, Hiszpanii, Szwecji, Szwajcarii, Tajlandii, Zjednoczonych Emiratów Arabskich, Wielkiej Brytanii i Stanów Zjednoczonych. Dodatkowe dane zostały zebrane wśród niemal 250 deweloperów na pierwszej linii, we współpracy z YouGov, w Stanach Zjednoczonych w dniach od 14 do 21 lutego 2025 roku

Salesforce

31 marzec 2025