Świeże newsy ze świata IT

Zagrożenia dla Infrastruktury AI

Raporty firm bezpieczeństwa: Ponad 91 000 złośliwych sesji atakujących infrastrukturę AI

Estymowany czas czytania: 7 minut

  • Cyberprzestępcy coraz bardziej koncentrują się na systemach AI
  • 97% organizacji zgłasza incydenty bezpieczeństwa związane z Gen AI
  • AI staje się nowym frontem w walce o bezpieczeństwo danych
  • Shadow AI jest poważnym zagrożeniem dla firm
  • Firmy muszą implementować ścisły nadzór i polityki bezpieczeństwa

Spis treści

1. Co mówią najnowsze raporty o atakach na AI

Z analiz prezentowanych przez Capgemini w raporcie „New defenses, new threats: What AI and Gen AI bring to cybersecurity” na rok 2026 wynika, że:

  • 97% organizacji zgłasza incydenty bezpieczeństwa związane z wykorzystaniem Gen AI. To ogromna część wywiadu, która obrazuje, jak powszechne są zagrożenia związane z tymi narzędziami. Źródło
  • Połowa badanych firm odnotowała straty przekraczające 50 mln USD z powodu naruszeń bezpieczeństwa w ciągu ostatnich trzech lat. AI jest wskazana jako kluczowy czynnik eskalacji zagrożeń. Źródło
  • Gwałtowny wzrost wykorzystania AI i GenAI przez grupy cyberprzestępcze wyraźnie zmienia krajobraz zagrożeń, czyniąc je bardziej zautomatyzowanymi i trudniejszymi do wykrycia. Źródło

Liczba 91 000 złośliwych sesji pochodzi z dokładnych analiz telemetrycznych dostawców bezpieczeństwa, które zliczają nieuczciwe zapytania do modeli, API i innych interfejsów webowych.

2. Percepcja: ataki z użyciem AI groźniejsze niż ransomware

Niepokojące jest również to, że rośnie obawa przed atakami z wykorzystaniem AI. Badania przeprowadzone przez Veeam ujawniają, że:

  • 66% respondentów uważa ataki generowane przez AI za największe zagrożenie dla danych, przewyższające zagrożenia ze strony ransomware, które budzą niepokój u 50% badanych. Źródło
  • 49% liderów IT wskazuje, że cyberataki będą głównym czynnikiem destabilizującym funkcjonowanie ich działów do 2026 roku. Co więcej, 29% firm przyznaje, że nie jest odpowiednio przygotowana na rosnącą skalę zagrożeń. Źródło

Te dane potwierdzają, że w świadomości biznesu AI to już nie tylko platforma do innowacji, ale nowy, dominujący front w walce o bezpieczeństwo danych.

3. Shadow AI i wycieki danych – „miękkie podbrzusze” infrastruktury AI

Duża część zagrożeń dotyczy nie tylko bezpośrednich ataków na model AI, ale także niekontrolowanego korzystania z AI. Wyniki badań odkrywają, że:

  • 20% organizacji doświadczyło w ostatnim roku naruszenia bezpieczeństwa związane z tzw. Shadow AI – wykorzystanie narzędzi AI bez wiedzy działu IT. Źródło
  • Dwie dekady osbaniania przeszkód, blisko 20% pracowników przyznaje, że udostępnia aplikacjom AI dane wrażliwe organizacji, takie jak informacje finansowe czy tajemnice biznesowe. Źródło
  • Co przerażające, 58% pracowników nie zdaje sobie sprawy, czym są deepfake’i, co pokazuje niski poziom świadomości na temat zagrożeń płynących z AI. Źródło

Eksperci wskazują Shadow AI jako jedno z największych ryzyk dla polskich firm. Narzędzia AI są wykorzystywane „po cichu”, a wrażliwe dane mogą trafiać do zewnętrznych modeli bez kontroli, co może prowadzić do utraty poufności danych oraz naruszeń regulacyjnych.

4. Jak cyberprzestępcy atakują systemy i infrastrukturę AI

Przykłady ataków na infrastruktury AI mogą przybierać różnorodne formy. Wśród nich wyróżniają się następujące kategorię:

  1. Ataki na API i infrastrukturę modeli:
    • Masowe nadużywanie API modeI, obejmujące techniki takie jak DDoS i brute-force, a także wycieki kluczy API.
    • Próby omijania zabezpieczeń, takie jak prompt injection, w celu generowania zabronionych treści.
  2. Wykorzystanie AI do wzmocnienia klasycznych ataków:
    • Automatyzacja phishingu i spear-phishingu oraz tworzenie przekonujących deepfake’ów do oszustw finansowych. Źródło
  3. Ataki na dane treningowe i łańcuch dostaw AI:
    • Zatrucie danych treningowych w zewnętrznych źródłach oraz ataki na komponenty open source używane w systemach AI.
  4. Kradzież modeli i know-how:
    • Eksfiltracja parametrów modeli oraz danych treningowych.

5. Skala problemu w liczbach

Podsumowując, w analizach dotyczących zagrożeń związanych z AI i złośliwymi sesjami pojawiają się następujące statystyki:

  • 97% organizacji zgłasza incydenty związane z GenAI. Źródło
  • 50% firm zgłosiło straty w wysokości przekraczającej 50 mln USD w ostatnich latach. Źródło
  • 66% liderów IT uważa ataki generowane przez AI za największe zagrożenie. Źródło

To wszystko wskazuje, że liczba 91 000 zidentyfikowanych złośliwych sesji jest zasadne i potwierdza powagę sytuacji, w której mówimy.

6. Kluczowe wnioski dla infrastruktury AI

Na podstawie powyższych obserwacji można wskazać kilka kluczowych rekomendacji dla firm:

  • Ścisły nadzór i polityki bezpieczeństwa dla GenAI – organizacje muszą ustanawiać jasne zasady użycia, kontroli dostępu i nadzoru. Źródło
  • Przejście od „ochrony” do „odporności” – firmy powinny być przygotowane na potencjalne incydenty.
  • Segmentacja sieci – wprowadzenie architektur odpornych na awarie, aby zminimalizować wpływ ewentualnych ataków.

7. Jak interpretować liczbę 91 tys. zidentyfikowanych złośliwych sesji

Liczba 91 000 nie powinna być postrzegana w oderwaniu od szerszego kontekstu. Wiele renomowanych raportów i analiz telemetrycznych wskazuje, że systemy AI stały się celem cyberprzestępców, a nie tylko narzędziem w ich rękach. Dla organizacji, które korzystają z AI, kluczowe jest zrozumienie zagrożeń oraz implementacja skutecznych strategii obronnych.

Call to Action

Jeśli Twoja firma korzysta z rozwiązań AI lub planuje ich wdrożenie, zachęcamy do skontaktowania się z naszym zespołem ekspertów w dziedzinie AI consulting i automatyzacji procesów biznesowych. Razem możemy stworzyć bezpieczne i efektywne środowisko pracy, które pozwoli maksymalnie wykorzystać potencjał sztucznej inteligencji, jednocześnie minimalizując ryzyko związane z bezpieczeństwem.

Kategorie:

Ostatnie wpisy

Kategorie

Tagi