Reklama

Nauka

Wojny na algorytmy – nowe wyzwanie dla cyberbezpieczeństwa

WAT

Piosenka puszczona w radio może spowodować serię katastrof w ruchu drogowym lub wyciek poufnych danych bankowych. O tym, jak można oszukać asystentów głosowych i wprowadzić w błąd autonomiczne pojazdy, telefony i urządzenia, które same się uczą – pisze w nagrodzonej pracy doktorant Wojskowej Akademii Technicznej.

Bądź na bieżąco!

Zapisz się do newslettera

Od sztucznej inteligencji może zależeć nasze życie, jeśli jest zastosowana w medycynie, albo w autonomicznych pojazdach. A jednak łatwo da się oszukać maszyny – dowodzi Łukasz Tymoszuk. Drogą do “złośliwej” ingerencji jest budowanie systemów-hakerów, które same szukają sobie niewidocznych uchylonych drzwi.

Jego praca magisterska pt. „Antagonistyczne uczenie maszynowe jako zapowiedź wojen na algorytmy” otrzymała nagrodę główną (ex aequo) i nagrodę specjalną tegorocznego „Forum Młodych Informatyków”. Równorzędna nagrodę główną odebrał Paweł Tarsała za pracę pt. „Algorytmy głębokiego uczenia maszynowego w obszarze widzenia komputerowego”. Obydwaj laureaci pracowali pod opieką naukową dr. inż. Rafała Kasprzyka z Wydziału Cybernetyki WAT.

Pomóż w rozwoju naszego portalu

Wspieram

Łukasz Tymoszuk podaje przykład ataku dokonanego poprzez... piosenkę. Atak polega na puszczeniu w radio zainfekowanej piosenki, transmitowanej w milionach odbiorników równocześnie.

„Człowiek nie usłyszy nic nadzwyczajnego, po prostu piosenkę. Natomiast systemy sztucznej inteligencji odbiorą komendę, która może spowodować serię katastrof w pojazdach autonomicznych, albo wyciek danych na ogromną skalę. Te systemy to asystenci głosowi, których wykorzystujemy do przekazywania poleceń w domach, samochodach czy telefonach komórkowych z dostępem do e-maili i poufnych danych” – tłumaczy doktorant.

Reklama

Jak wyjaśnia dr Kasprzyk, algorytm bardzo zaawansowanej sztucznej inteligencji jest łatwo oszukać poprzez inny algorytm – to właśnie wojna na algorytmy. Choć nawet najbardziej inteligentny człowiek nie rozumie do końca reguł działania złożonego systemu, to przecież potrafi go „wytrenować”. A skoro tak – to przestępca lub naukowiec zaangażowany w działania wojenne potrafi zbudować przeciwstawny algorytm, który nauczy się wszystkiego o tym pierwszym. Złośliwy algorytm będzie umiał wyszukać lukę i spreparować taki „szum”, żeby nasz pierwszy, poprawny algorytm się pomylił.

Wojny na algorytmy dzieją się od dziesiątek lat w obszarze kryptologii – tu chodzi o zapewnienie poufności danych. Obszarów takiej walki jest coraz więcej w codziennym życiu, a tym bardziej w wojsku. Cyberbezpieczeństwo dotąd obejmowało sprzęt, czyli hardware, i nadający ducha temu „ciału” software, czyli oprogramowanie. Obecnie obszar cyberbezpieczeństwa, powiększył się o usuwanie luk w modelach budowanych przez same maszyny w oparciu o Big Data. Przez te luki, zwane podatnościami, mogą wślizgnąć się „maszynowi hakerzy”.

Złośliwe systemy preparowania danych wejściowych mogą być wykorzystane w wojnach przyszłości, nawet między państwami – tak w ataku, jak w obronie. Zatem nie tylko przestępcy, ale i specjaliści od spraw wojskowych pracują nad zaawansowanymi systemami przeciwstawnego uczenia się maszyn. Aby opracować zabezpieczenia, naukowcy muszą odnaleźć luki w aktualnych modelach uczenia maszynowego – i zrozumieć, jak je chronić.

Podziel się:

Oceń:

+4 0
2020-12-17 20:25

[ TEMATY ]

Wybrane dla Ciebie

Abp Budzik relacjonuje pierwsze spotkanie nowej Dykasterii Kultury i Wychowania

Watykan

Adobe Stock

Watykan

Rewolucja cyfrowa, w tym problem sztucznej inteligencji oraz kryzys kultury - to były główne wątki pierwszego plenarnego spotkania Dykasterii Kultury i Wychowania, które odbywało się od 19 do 21 listopada br. w Rzymie. Wrażeniami z obrad podzielił się w rozmowie z KAI abp Stanisław Budzik, metropolita lubelski, członek nowopowstałej Dykasterii i uczestnik spotkania. Nawiązując do słów papieża Franciszka, podkreślił, że jesteśmy obecnie w momencie przełomowym jeśli chodzi o rozwój kultury, który porównać można do niepewnej przeprawy łodzią przez jezioro. Myśl ta wyrażona została w haśle spotkania: „Przeprawmy się na drugi brzeg. Edukacja i kultura na przełomie epok”.

Więcej ...

Do SN weszli prokuratorzy. Prezydent: coś niedobrego dzieje się z głową Bodnara

2025-06-30 15:26
Prezydent Andrzej Duda

PAP/EPA

Prezydent Andrzej Duda

Prezydent Andrzej Duda ocenił, że „coś niedobrego dzieje się z głową” Prokuratora Generalnego Adama Bodnara, skoro kwestionuje on Izbę Kontroli Nadzwyczajnej i Spraw Publicznych SN i jednocześnie wysyła do niej prokuratorów. Dodał też, że Bodnar „powinien się trochę nad sobą zastanowić”.

Więcej ...

Poznań: rozpoczęła się XIV Kapituła Generalna Chrystusowców dla Polonii

2025-06-30 19:03
Katedra w Poznaniu

Karol Porwich/Niedziela

Katedra w Poznaniu

W Domu Głównym Towarzystwa Chrystusowego w Poznaniu rozpoczęła się XIV Kapituła Generalna Towarzystwa Chrystusowego dla Polonii Zagranicznej, zgromadzenia zakonnego powołanego do duchowej opieki nad Polonią. Wydarzenie zgromadziło przedstawicieli wszystkich prowincji i regionów, w których posługują chrystusowcy - z Europy, Ameryki Północnej, Ameryki Południowej oraz Australii.

Więcej ...

Reklama

Najpopularniejsze

Zmiany kapłanów 2025 r.

Kościół

Zmiany kapłanów 2025 r.

Kłodzko. Kolejne zgromadzenie zakonne opuszcza diecezję...

Niedziela Świdnicka

Kłodzko. Kolejne zgromadzenie zakonne opuszcza diecezję...

Zmarł ks. prałat Józef Hass. W wypadku samochodowym...

Kościół

Zmarł ks. prałat Józef Hass. W wypadku samochodowym...

Nowenna do Przenajdroższej Krwi Chrystusa

Wiara

Nowenna do Przenajdroższej Krwi Chrystusa

27 czerwca nie obowiązuje wstrzemięźliwość od...

Kościół

27 czerwca nie obowiązuje wstrzemięźliwość od...

Zmiany personalne 2025

Kościół

Zmiany personalne 2025

Odszedł do wieczności kleryk elbląskiego seminarium...

Kościół

Odszedł do wieczności kleryk elbląskiego seminarium...

#LudzkieSerceBoga: Poznaj Serce Jezusa, tak bliskie...

Kościół

#LudzkieSerceBoga: Poznaj Serce Jezusa, tak bliskie...

Niezbędnik Katolika miej zawsze pod ręką

Wiara

Niezbędnik Katolika miej zawsze pod ręką