Cyberbezpieczeństwo

Okazuje się, że coraz więcej pracowników używa aplikacji wykorzystujących sztuczną inteligencję (AI), które funkcjonują poza wiedzą i kontrolą działów IT oraz systemów cyberbezpieczeństwa. Tak powstaje zjawisko shadow AI, czyli stosowania narzędzi sztucznej inteligencji bez zgody lub świadomości przedsiębiorstwa. Skala problemu staje się wyraźnie widoczna. Według badania Komprise IT Survey: AI, Data & Enterprise Risk, 2025 - już 43 proc. dużych przedsiębiorstw odnotowało przypadki ujawnienia danych firmowych lub osobowych w rozwiązaniach sztucznej inteligencji. Dodatkowo 90 proc. liderów IT obawia się ryzyka, jakie niesie nieautoryzowane korzystanie z AI.

Sztuczna inteligencja pomaga w walce z cyberprzestępczością. Gdy stworzy charakterystyczny dla danego użytkownika profil cyfrowy, może wykrywać anomalie i niestandardowe aktywności. 

Od lat opracowujemy systemy cyberbezpieczeństwa bazujące na uczeniu maszynowym.  W 2005 roku w naszych laboratoriach zaczęliśmy rozwijać automatyzację analizy. Stopniowo te projekty przekształciły się w pełnowartościowe struktury uczenia maszynowego. Od tego momentu, tylko kwestią czasu było kiedy cyberprzestępcy zrobią to samo. Nastąpiło to teraz, po 18 latach. Zaczęliśmy obserwować, że sztuczna inteligencja wpiera złośliwe oprogramowanie.

ChatGPT stał się groźnym narzędziem w rękach cyberprzestępców. Jednak, jak przekonują eksperci z Sophos, ten zaawansowany model językowy, zdolny do pisania i analizowania nawet dłuższych tekstów, może być również bardzo pomocny w walce z hakerami i internetowymi oszustami. Sztuczną inteligencję da się z powodzeniem wykorzystać do namierzania podejrzanej aktywności, filtrowania wiadomości e-mail czy przeciwdziałania cyberatakom z wykorzystaniem komponentów wbudowanych w system Microsoft Windows (LOLBin).