Co przedsiębiorstwa powinny wiedzieć o ChatGPT w kontekście cyberbezpieczeństwa.

ChatGPT to narzędzie sztucznej inteligencji (SI), które generuje tekst, pomagając użytkownikom w wykonywaniu różnych zadań. Można powiedzieć, że SI generatywna to kolejny krok w ewolucji technologii, podobnie jak zmiana od maszyny do pisania do komputera osobistego czy od przeglądania papierowych encyklopedii do korzystania z wyszukiwarek internetowych. ChatGPT to pewnego rodzaju ewolucja encyklopedii – narzędzia, które pomagają uzyskać odpowiedzi i rozwiązać zarówno proste, jak i skomplikowane problemy szybciej. ChatGPT gromadzi i wykorzystuje informacje od użytkowników, co pozwala dostarczać bardziej inteligentne wyniki. Ten rodzaj chatbota opartego na SI może także sprawić, że proces wyszukiwania informacji stanie się bardziej wartościowy, tworząc ad hoc zapytania lub filtry do przeszukiwania danych.

Wielu ludzi zastanawia się, czy ChatGPT jest przyjacielem, czy wrogiem. Podobnie, jak gromadzenie danych z różnych źródeł może stwarzać potencjalne ryzyko zwiększenia klasyfikacji informacji, SI ma podobny problem. Ponieważ ChatGPT dostarcza dane pochodzące z wielu źródeł, istnieje ryzyko, że złośliwy cyberprzestępca może zgromadzić wystarczająco dużo informacji, aby infiltrować przedsiębiorstwo.
Z uwzględnieniem tych przypadków użycia i czynników ryzyka, obowiązkiem specjalistów ds. bezpieczeństwa jest podjęcie działań w celu zrozumienia, jak bezpiecznie wykorzystywać SI – jeśli w ogóle jest to możliwe.

Dlaczego ChatGPT jest istotny dla cyberbezpieczeństwa:
ChatGPT może dostarczać przydatne informacje, które pomagają specjalistom ds. cyberbezpieczeństwa analizować incydenty bezpieczeństwa  i zapobiegać przyszłym zdarzeniom związanym z cyberprzestępczością. Program jest w stanie generować podsumowanie tematu i dostarczać źródeł, które można wykorzystać do głębszej analizy. Inne zastosowania obejmują:
Oszczędność czasu w przypadku pytań dotyczących łatwo zweryfikowalnych informacji – Jeśli użytkownik prosi o informacje na temat strony Linuxa lub krótkiej komendy „jak to zrobić”, ChatGPT może szybko dostarczyć te informacje.
Silnik do tworzenia pseudokodów – ChatGPT obsługuje język Python i może potencjalnie wykonać praktycznie wszystko, co jest możliwe w Pythonie, w zależności od konkretnego zastosowania.
Ponadto ChatGPT może pomóc w wzmocnieniu bezpieczeństwa przedsiębiorstwa, umożliwiając:
Analizę zagrożeń – ChatGPT może być szkolony na danych dotyczących zagrożeń związanych z cyberbezpieczeństwem, co pomaga w identyfikowaniu i analizie potencjalnych incydentów bezpieczeństwa.
Analizę dużych zbiorów danych – Możliwość analizy dużych ilości danych, takich jak pliki dziennika, ruch sieciowy i zdarzenia związane z bezpieczeństwem, pomaga organizacjom identyfikować i reagować na potencjalne incydenty bezpieczeństwa szybciej i efektywniej.

Reakcja cyberprzestępców
Mimo że narzędzia SI, takie jak ChatGPT, mogą służyć do celów pozytywnych, cyberprzestępcy równocześnie wykorzystują je do doskonalenia swoich złośliwych taktyk. Czynią to, zadając ChatGPT konkretne pytania w celu zdobycia informacji. Na przykład cyberprzestępca może użyć swojej wiedzy, celu i pożądanego celu, aby skonstruować pytania, które pomogą mu ulepszyć swoje narzędzia.
Haker może wcześniej zanalizować sieć przedsiębiorstwa i znaleźć potencjalne luki w zabezpieczeniach. Wtedy może zadać ChatGPT pytania takie jak: „Znalazłem lukę w sieci, jak ją naprawić, aby zabezpieczyć moją sieć?” Warto zauważyć, że ChatGPT stara się unikać pomocy hakerom, ale jeśli haker potrafi właściwie sformułować pytanie, ChatGPT udziela odpowiedzi.
Hakerzy zdają sobie sprawę, że takie pytania są bardziej efektywne w pozyskiwaniu przydatnych informacji niż pytanie narzędzia SI o sposób wykorzystania luki w sieci. Gdy potrzebne informacje są dostępne, hakerzy mogą stworzyć listę kontrolną i tworzyć złośliwy kod, aby infiltrować podatne miejsce w sieci. Z perspektywy obrony, personel ds. cyberbezpieczeństwa może zadać ChatGPT te same pytania, które haker postawił, ale z perspektywy inżynierii bezpieczeństwa, w celu obrony sieci.
Aby uzyskać najbardziej wartościowe informacje od ChatGPT, konieczne jest właściwe formułowanie pytań i rozwijanie pierwotnego zapytania, aby uzyskać pożądane wyniki i głębsze zrozumienie. Hakerzy uczą się, że nie mogą zadawać ChatGPT bezpośrednio złośliwych pytań, ponieważ otrzymają odpowiedź w stylu „Nie tworzę złośliwego oprogramowania.” Zamiast tego pytają, czy ChatGPT może udawać model SI, który jest w stanie wykonać określony skrypt.

Konieczność uważnej ochrony
Mimo że narzędzia SI przyczyniają się do poprawy wydajności pracy, należy pamiętać, że złośliwi hakerzy nadal wykorzystują te technologie do swoich celów. Przykładem są narzędzia takie jak Dalle-2, które manipulują i generują obrazy, czy Prime Voice AI, które potrafi manipulować i klonować głosy ludzi. Warto podkreślić, że zdolność SI do manipulowania ludźmi poprzez inżynierię społeczną jest coraz bardziej kontrolowalna. Niemniej jednak narzędzia SI, takie jak ChatGPT, nie jest rodzajem tłumacza w stylu Kamienia z Rosetty dla hakerów. Każdy skrypt generowany przez SI lub program musi być dokładnie oceniany, a jego cel musi być jasny, zanim będzie można mu zaufać. W przeciwnym razie może to prowadzić do nieoczekiwanych i destrukcyjnych rezultatów, jeśli użytkownik nie rozumie wystarczająco skryptu.

Podsumowanie
Wkrótce narzędzia SI będą niezbędne do monitorowania sieci, analizowania danych i identyfikowania zagrożeń cybernetycznych bez interakcji człowieka. To wykracza poza tradycyjną ochronę, jaką zapewniają statyczne zapory sieciowe czy narzędzia SIEM.

Nowe narzędzia SI będą miały dostęp do tych samych informacji co ludzie, ale jednocześnie będą potrafiły błyskawicznie przetwarzać ogromne ilości danych i uczyć się na bieżąco, by podejmować adaptacyjne decyzje w związku z potencjalnymi zagrożeniami jeszcze przed ich wystąpieniem.

Jednocześnie sprawcy zagrożeń będą wykorzystywać SI do opracowywania nowych metod omijania narzędzi obrony sieci. Świat wkracza w erę walki SI przeciwko SI, co sprawia, że specjaliści ds. bezpieczeństwa muszą dostarczać odpowiednie dane szybciej niż ich przeciwnicy. W wyścigu o cyberbezpieczeństwo z wykorzystaniem SI kluczowa jest prędkość przetwarzania, korelacji i dostarczania potrzebnych odpowiedzi.

 

Przypisy:
1 Openai.com, „DALL-E 2”
2 Welcome.ai, „Prime Voice AI”

Oryginalny artykuł: „What Enterprises Need to Know About ChatGPT and Cybersecurity” autorstwa ZACHARY FOLK, CEH, CISSP-ISSEP, SECURITY+, opublikowany 17 października 2023 – cały pod linkiem – https://tiny.pl/cls6b

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *