Reklama

Nauka

Wojny na algorytmy – nowe wyzwanie dla cyberbezpieczeństwa

Piosenka puszczona w radio może spowodować serię katastrof w ruchu drogowym lub wyciek poufnych danych bankowych. O tym, jak można oszukać asystentów głosowych i wprowadzić w błąd autonomiczne pojazdy, telefony i urządzenia, które same się uczą – pisze w nagrodzonej pracy doktorant Wojskowej Akademii Technicznej.

Od sztucznej inteligencji może zależeć nasze życie, jeśli jest zastosowana w medycynie, albo w autonomicznych pojazdach. A jednak łatwo da się oszukać maszyny – dowodzi Łukasz Tymoszuk. Drogą do “złośliwej” ingerencji jest budowanie systemów-hakerów, które same szukają sobie niewidocznych uchylonych drzwi.

Jego praca magisterska pt. „Antagonistyczne uczenie maszynowe jako zapowiedź wojen na algorytmy” otrzymała nagrodę główną (ex aequo) i nagrodę specjalną tegorocznego „Forum Młodych Informatyków”. Równorzędna nagrodę główną odebrał Paweł Tarsała za pracę pt. „Algorytmy głębokiego uczenia maszynowego w obszarze widzenia komputerowego”. Obydwaj laureaci pracowali pod opieką naukową dr. inż. Rafała Kasprzyka z Wydziału Cybernetyki WAT.

Łukasz Tymoszuk podaje przykład ataku dokonanego poprzez... piosenkę. Atak polega na puszczeniu w radio zainfekowanej piosenki, transmitowanej w milionach odbiorników równocześnie.

„Człowiek nie usłyszy nic nadzwyczajnego, po prostu piosenkę. Natomiast systemy sztucznej inteligencji odbiorą komendę, która może spowodować serię katastrof w pojazdach autonomicznych, albo wyciek danych na ogromną skalę. Te systemy to asystenci głosowi, których wykorzystujemy do przekazywania poleceń w domach, samochodach czy telefonach komórkowych z dostępem do e-maili i poufnych danych” – tłumaczy doktorant.

Jak wyjaśnia dr Kasprzyk, algorytm bardzo zaawansowanej sztucznej inteligencji jest łatwo oszukać poprzez inny algorytm – to właśnie wojna na algorytmy. Choć nawet najbardziej inteligentny człowiek nie rozumie do końca reguł działania złożonego systemu, to przecież potrafi go „wytrenować”. A skoro tak – to przestępca lub naukowiec zaangażowany w działania wojenne potrafi zbudować przeciwstawny algorytm, który nauczy się wszystkiego o tym pierwszym. Złośliwy algorytm będzie umiał wyszukać lukę i spreparować taki „szum”, żeby nasz pierwszy, poprawny algorytm się pomylił.

Reklama

Wojny na algorytmy dzieją się od dziesiątek lat w obszarze kryptologii – tu chodzi o zapewnienie poufności danych. Obszarów takiej walki jest coraz więcej w codziennym życiu, a tym bardziej w wojsku. Cyberbezpieczeństwo dotąd obejmowało sprzęt, czyli hardware, i nadający ducha temu „ciału” software, czyli oprogramowanie. Obecnie obszar cyberbezpieczeństwa, powiększył się o usuwanie luk w modelach budowanych przez same maszyny w oparciu o Big Data. Przez te luki, zwane podatnościami, mogą wślizgnąć się „maszynowi hakerzy”.

Złośliwe systemy preparowania danych wejściowych mogą być wykorzystane w wojnach przyszłości, nawet między państwami – tak w ataku, jak w obronie. Zatem nie tylko przestępcy, ale i specjaliści od spraw wojskowych pracują nad zaawansowanymi systemami przeciwstawnego uczenia się maszyn. Aby opracować zabezpieczenia, naukowcy muszą odnaleźć luki w aktualnych modelach uczenia maszynowego – i zrozumieć, jak je chronić.

2020-12-17 20:25

Ocena: +2 0

Reklama

Wybrane dla Ciebie

Polski rzymianin

Niedziela Ogólnopolska 5/2020, str. 46-47

[ TEMATY ]

rozmowa

Prof. Jerzy Miziołek

Stanisław August Morawski

Stanisław August Morawski

W Rzymie zmarł nestor włoskiej Polonii Stanisław August Morawski. Jednym z jego polskich przyjaciół był prof. Jerzy Miziołek, który wspomina swojego przyjaciela w rozmowie z Włodzimierzem Rędziochem.

Włodzimierz Rędzioch: Odejście Stanisława A. Morawskiego napełnia jego przyjaciół głębokim smutkiem i zobowiązuje do chwili wspomnień. Znałeś go przez wiele lat. W jakich okolicznościach się poznaliście?

CZYTAJ DALEJ

Lwów: przypomniano postać ks. Henryka Mosinga – kapłana i naukowca

2022-12-01 12:30

[ TEMATY ]

Lwów

Karol Porwich/Niedziela

Dr Mosing był nie tylko utalentowanym naukowcem, który był bezpośrednio zaangażowany w tworzenie szczepionki przeciw tyfusowi. Był także kapłanem i przez wiele lat prowadził działalność misyjną i duszpasterską – przypomniał metropolita lwowski, abp Mieczysław Mokrzycki podczas sympozjum zorganizowanego 30 listopada przez Instytut Epidemiologii i Higieny.

Arcybiskup Mokrzycki przypomniał o posłudze tego wybitnego naukowca, jako „człowieka wielkiego miłosierdzia”. „Nie można, bowiem zapominać o takich osobach jak ks. dr Henryk Mosing. Nie wolno nam zapominać o wybitnych pedagogach i naukowcach, bo to oni są dzisiaj fundamentem naszej działalności. … Analizując życie Henryka Mosinga, możemy bez cienia wątpliwości stwierdzić, że przeżył je godnie, czyniąc dobro jako lekarz i jako kapłan. Cieszę się, że Instytut Epidemiologii co roku organizuje sympozjum. Niech jego postać stanie się dla nas wzorem, aby słowa Jezusa, który pragnie być naszą nagrodą w wieczności za wszelkie dobro, jakie czynimy bliźnim, spełniły się w naszym życiu. Dziękując za to naukowe spotkanie, wszystkim błogosławię i życzę łask Bożych w służbie bliźnim” – powiedział abp Mokrzycki.

CZYTAJ DALEJ

MŚ 2022 - kończy się faza grupowa

2022-12-02 07:06

PAP/EPA/Georgi Licovski

W piątek zakończy się faza grupowa piłkarskich mistrzostw świata w Katarze. Z grup G i H pewne awansu są już Brazylia i Portugalia, a na dwa ostatnie wolne miejsca w fazie pucharowej apetyt ma wciąż sześć drużyn.

"Canarinhos" od 2002 roku czekają na szósty tytuł mistrza świata. Tegoroczny turniej zaczęli z wysokiego pułapu, pokonując na inaugurację Serbię 2:0, a następnie Szwajcarię 1:0. Mają komplet punktów i w ostatnim spotkaniu z Kamerunem zagrają w rezerwowym składzie, co trener Tite już zapowiedział piłkarzom.

CZYTAJ DALEJ

Reklama

Najczęściej czytane

W związku z tym, iż od dnia 25 maja 2018 roku obowiązuje Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia Dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) uprzejmie Państwa informujemy, iż nasza organizacja, mając szczególnie na względzie bezpieczeństwo danych osobowych, które przetwarza, wdrożyła System Zarządzania Bezpieczeństwem Informacji w rozumieniu odpowiednich polityk ochrony danych (zgodnie z art. 24 ust. 2 przedmiotowego rozporządzenia ogólnego). W celu dochowania należytej staranności w kontekście ochrony danych osobowych, Zarząd Instytutu NIEDZIELA wyznaczył w organizacji Inspektora Ochrony Danych.
Więcej o polityce prywatności czytaj TUTAJ.

Akceptuję