REKLAMA

Kategorie
Zaloguj się

Zarejestruj się

Proszę podać poprawny adres e-mail Hasło musi zawierać min. 3 znaki i max. 12 znaków
* - pole obowiązkowe
Przypomnij hasło
Witaj
Usuń konto
Aktualizacja danych
  Informacja
Twoje dane będą wykorzystywane do certyfikatów.

Sztuczna inteligencja szansą dla hakerów

Mikko Hyppönen
CRO w firmie WithSecure
Dostępna jest już technologia umożliwiająca automatyczne prowadzenie ataku i omijanie systemów ochronnych
Dostępna jest już technologia umożliwiająca automatyczne prowadzenie ataku i omijanie systemów ochronnych
shutterstock

REKLAMA

REKLAMA

Od lat opracowujemy systemy cyberbezpieczeństwa bazujące na uczeniu maszynowym.  W 2005 roku w naszych laboratoriach zaczęliśmy rozwijać automatyzację analizy. Stopniowo te projekty przekształciły się w pełnowartościowe struktury uczenia maszynowego. Od tego momentu, tylko kwestią czasu było kiedy cyberprzestępcy zrobią to samo. Nastąpiło to teraz, po 18 latach. Zaczęliśmy obserwować, że sztuczna inteligencja wpiera złośliwe oprogramowanie.
rozwiń >

Automatyzacja ochrony przed cyber-zagrożeniami

Specjaliści ds. cyberbezpieczeństwa automatyzują swoją pracę od dłuższego czasu. Dzięki temu mogą szybko wykrywać, analizować i reagować na incydenty. Do tej pory odbiegało to od działalności hakerów, którzy musieli projektować i wdrażać swoje ataki ręcznie. Gdy już zostali zablokowani, wszelkie modyfikacje strategii czy kodu wprowadzali wolniej, co dawało przewagę osobom odpowiedzialnym za bezpieczeństwo firm i organizacji.  

REKLAMA

SI wykorzystywana w cyberatakach 

Zautomatyzowane kampanie, które wykorzystują złośliwe oprogramowanie, znacząco zmienią szybkość reakcji hakerów. Dostępna jest już technologia umożliwiająca automatyczne prowadzenie ataku i omijanie systemów ochronnych. Jak na razie nie obserwujemy wykorzystywania jej przez cyberprzestępców. Będzie jednak z pewnością zauważalne gdy się to stanie. Szybkość reakcji hakerów zmieni z się z ludzkiej na maszynową. 

Deepfakes, czyli fałszywe obrazy

Gdy mówimy o wykorzystaniu SI w działalności przestępczej, najczęściej na myśl przychodzą deepfakes. Coraz łatwiej jest stworzyć realistyczne obrazy osób, które nie istnieją. Wykorzystywane są one w licznych oszustwach, np. na portalach randkowych. Wciąż na niewielką skalę wykorzystywane jest tworzenie fałszywych obrazów prawdziwych osób, podrabianie głosów czy postaci w filmach. Nie ma jednak wątpliwości, że to zjawisko będzie się nasilało. 

Modele językowe w służbie hakerów

Zaawansowane modele językowe, takie jak ChatGPT, są w stanie tworzyć treści nie tylko w językach naturalne, ale również we wszystkich językach programowania.  Daje to przestrzeń do działalności przestępczej. Przykładem użycia takiego samoreplikującego się kawałka kodu, który potrafi wykorzystać duże modele językowe do tworzenia nieskończonych wariacji samego siebie jest malware który otrzymałem mailem od użytkownika SPTH.

Samoreplikujący się kod

SPTH to hobbysta tzw. „starej szkoły wirusów”, znany z projektowania rozwiązań, które przełamują schematy. Stworzył długą listę złośliwych programów takich jak pierwsze złośliwe oprogramowanie infekujące DNA, „Mycoplasma Mycoides SPTH-syn1.0”. SPTH prawdopodobnie nie jest zainteresowany wykorzystaniem złośliwego oprogramowania do wyrządzania szkód lub kradzieży pieniędzy.

Stworzony przez niego samoreplikujący się kod nosi nazwę LLMorpher. Twórca pisze o nim: 

„Idziemy dalej i pokazujemy, jak zakodować samoreplikujący się kod całkowicie w języku naturalnym. Zamiast konkretnych instrukcji kodu, nasz wirus składa się z listy dobrze zdefiniowanych zdań (promptów) napisanych w języku angielskim. Następnie wykorzystujemy ChatGPT firmy OpenAI, jeden z najpotężniejszych systemów sztucznej inteligencji dostępnych publicznie. Czat może tworzyć różne kody o tym samym modelu działania, co jest nową formą metamorfizmu.”

Infekcja programów napisanych w Pythonie

REKLAMA

Fragment kodu może zainfekować programy napisane w języku Python. Po wykonaniu instrukcji przeszukuje komputer w aby odnaleźć pliki o rozszerzeniu .py i kopiuje do nich własne funkcje. Nie są jednak powielane bezpośrednio; funkcjonalność jest opisywana w języku angielskim do modelu GPT, który następnie tworzy rzeczywisty kod, który zostaje skopiowany. W rezultacie powstaje zainfekowany plik Python, replikujący złośliwe oprogramowanie do nowych plików. Jego funkcje są za każdym razem przeprogramowywane przez sztuczną inteligencję. Tego typu rozwiązanie nie było do tej pory wykorzystywane. 

Samo pisanie złośliwego oprogramowania nie jest nielegalne. Nie wolno używać go jednak do infekowania systemów lub powodowania szkód. Chociaż wydaje się, że SPTH nie zrobił nic nielegalnego, jego działanie jest problematyczne. Odkrycia mogą zostać użyte przez osoby trzecie, gdyż LLMorpher dostępny jest do pobrania z Githuba.

Jak się bronić?

LLMorpher nie może działać bez ChatGPT. Nie ma swojej kopii, ponieważ czat jest niedostępny do pobrania. Oznacza to, że OpenAI (twórca ChatGPT) może zablokować każdego, kto używa rozwiązania w niewłaściwym celu. Niektóre z podobnych modeli językowych są jednak możliwe do pobrania, na przykład LLaMA. Możemy się więc spodziewać samoreplikującego się kodu wbudowanego w złośliwe oprogramowanie. 

Wczesne wykrywanie podejrzanych zachowań jest najlepszym sposobem na walkę ze złośliwym oprogramowaniem, które wykorzystuje duże modele językowe. Najlepiej robią to produkty bezpieczeństwa, które też wykorzystują uczenie maszynowe. Jedynym czynnikiem, który może powstrzymać „złą” sztuczną inteligencję jest „dobra” sztuczna inteligencja.

Autopromocja
Oprac. Piotr T. Szymański

REKLAMA

Źródło: Źródło zewnętrzne
Czy ten artykuł był przydatny?
tak
nie
Dziękujemy za powiadomienie - zapraszamy do subskrybcji naszego newslettera
Jeśli nie znalazłeś odpowiedzi na swoje pytania w tym artykule, powiedz jak możemy to poprawić.
UWAGA: Ten formularz nie służy wysyłaniu zgłoszeń . Wykorzystamy go aby poprawić artykuł.
Jeśli masz dodatkowe pytania prosimy o kontakt

REKLAMA

Komentarze(2)

Pokaż:

Uwaga, Twój komentarz może pojawić się z opóźnieniem do 10 minut. Zanim dodasz komentarz -zapoznaj się z zasadami komentowania artykułów.
  • zrobcie cos zrobotami
    2023-05-02 19:07:56
    roobooty
    0
  • blokada sztuczna inteligencja
    2023-05-02 19:17:05
    zrobcie cos zrobotami
    0
QR Code
Sztuczna inteligencja (AI)
Zapisz się na newsletter
Zobacz przykładowy newsletter
Zapisz się
Wpisz poprawny e-mail
Czy sztuczna inteligencja to przełom czy bańka inwestycyjna?

Od udostępnienia szerokiemu gronu użytkowników narzędzia Chat GPT mija dokładnie rok. Jak można się domyślić, sztuczna inteligencja a swoich entuzjastów i przeciwników. Wielu ekspertów uważaj również AI za bańkę inwestycyjną, która prędzej czy później pęknie. Jak jest naprawdę? 

Sztuczna inteligencja zmieni miejsca pracy, ale ich nie wyeliminuje

W listopadzie 2023 r. w Brukseli odbyła się druga edycja Europejskiego Forum Zatrudnienia i Praw Socjalnych. Przedmiotem dyskusji był wpływ sztucznej inteligencji (AI) na rynek pracy i status prawny pracowników. Przedstawiciele UE stanowczo podkreślali, że: pracownicy muszą czerpać korzyści z przełomowych rozwiązań, takich jak ChatGPTP. Deliberowano też o przyszłości pracy platformowej.

Raport Future of Work 2024: sztuczna inteligencja zwiększa produktywność pracowników o 30%

Raport Future of Work 2024: sztuczna inteligencja zwiększa produktywność pracowników o 30%. Według danych zawartych w najnowszym raporcie Talent Alpha „The World of Work AI-ed” ponad 90% wiodących dostawców usług, a także jedna trzecia wszystkich pracowników już korzysta z rozwiązań sztucznej inteligencji (ang. Artificial Intelligence – AI). Dzięki temu część firm doświadczyła dużego wzrostu produktywności.

Jak sztuczna inteligencja może przydać się w administracji rządowej? Jak może pomóc obywatelom?

Jak wykorzystać sztuczną inteligencję w biznesie i sektorze publicznym? Z jakimi wyzwaniami się to wiąże? Jak wyedukować pracowników do współpracy z AI? raport pt. „Współpraca Człowieka z AI: Perspektywy dla polskiego sektora publicznego” bierze pod lupę te kwestie. 

REKLAMA

Inteligentne systemy transportowe. Co zmienia nowa dyrektywa?

Rada UE przyjęła nowe przepisy zmieniające dyrektywę z 2010 r. dotyczącą wdrażania inteligentnych systemów transportowych. Aktualizacja rozwiązań sprzed trzynastu lat była konieczna, aby dostosować jej zapisy do aktualnych standardów technologicznych, przyspieszyć transformację cyfrową i wesprzeć europejską mobilność. 

Projekt AI Act – co przyniosą unijne przepisy dotycząca sztucznej inteligencji?

AI Act to projekt regulacji dotyczącej sztucznej inteligencji, która we wszystkich państwach członkowskich Unii Europejskiej wprowadzi jednolite prawo związane z tym obszarem. Celem jest stworzenie takich ram prawnych, aby rozwiązania bazujące na mechanizmach sztucznej inteligencji były godne zaufania i zgodne z wartościami oraz prawami obowiązującymi w UE. Co szczególnie istotne, rozporządzenie ma też chronić zdrowie oraz bezpieczeństwo obywateli.

Uwaga na teksty, które opracowuje nasz zleceniobiorca przy pomocy AI. Na co zwrócić uwagę w umowie z twórcą?

W przestrzeni internetowej coraz więcej pojawia się tekstów, które są tworzone przy użyciu sztucznej inteligencji (AI). Sporo twórców internetowych korzysta z technologii, którą daje nam np. ChatGPT. Na co należy zwrócić uwagę, podpisując umowę na określone teksty?

7 wyzwań biznesowych, które może rozwiązać AI (z niewielkim wsparciem ludzi)

Początki sztucznej inteligencji (AI) sięgają lat 50. XX wieku. W porównaniu do technologii takich jak telefon, komputery czy Internet, ewolucja AI przebiegała dotąd stosunkowo wolno. Wydaje się jednak, że nadszedł moment, w którym AI jest dostępna dla prawie każdego, a branża technologiczna wkracza w nowy rozdział. Wszyscy musimy zastanowić się nad tym, jak sztuczna inteligencja może pomóc nam robić więcej za mniej. Zastosowanie AI w pisaniu, tworzeniu obrazów czy produkcji muzyki to przełomowy moment w budowaniu świadomości społecznej związanej z możliwościami tej technologii.

REKLAMA

Badanie: Niemal co trzecia firma zwolniła w ostatnim roku minimum jedną osobę w wyniku automatyzacji oraz AI

Większość firm uważa, że automatyzacja i AI przyczynią się do redukcji etatów (57 proc.). Pracownicy zaczynają tego doświadczać. Niemal co trzeci przedsiębiorca w ostatnim roku zwolnił co najmniej jedną osobę na rzecz robota lub sztucznej inteligencji – wynika z najnowszego „Barometru Polskiego Rynku Pracy” Personnel Service. 

Sztuczna inteligencja pomoże w leczeniu niepłodności. Wybierze zarodek, który da największą szansę na ciążę

Naukowcy z kliniki Gyncentrum opracowali własny algorytm do oceny zarodków, który na podstawie 12 różnych parametrów w kilka minut identyfikuje najlepiej rozwijające się zarodki. Nowy algorytm oparty na sztucznej inteligencji ma stać się codzienną pomocą w pracy embriologów.

REKLAMA