Ataki Na Ai, Środki Neutralizujące I Strategie Obronne. Przewodnik Dla Specjalistów Ds. Cyberbezpieczeństwa Po Atakach Adwersarialnych, Modelowaniu Zagrożeń I Wprowadzaniu Zabezpieczeń Zgodny

W miarę rozwoju zaawansowanych modeli sztucznej inteligencji pojawiają się nowe wyzwania związane z bezpieczeństwem. Jednym z takich zagrożeń jest możliwość manipulacji funkcjonowaniem AI w celu wywołania błędnych decyzji, co jest podstawą ataków adwersarialnych. Konsekwencje takich działań mogą być poważne. Zrozumienie mechanizmów tych manipulacji oraz wdrożenie skutecznych zabezpieczeń stanowi duże wyzwanie dla specjalistów ds. cyberbezpieczeństwa.Osoby te mogą skorzystać z konkretnej książki, która oferuje uporządkowane informacje na temat wyników badań i najnowszych standardów branżowych, odnoszących się między innymi do klasyfikacji MITRE, NIST oraz OWASP. Publikacja koncentruje się na projektowaniu bezpiecznych systemów AI, wykorzystując modelowanie zagrożeń oraz wprowadzając pojęcia związane z MLSecOps i LLMOps. Autorzy przedstawiają przykłady zastosowań integracji ciągłej, strategii MLOps oraz mechanizmów kontroli bezpieczeństwa. Dodatkowo czytelnik znajdzie tu plan działań na rzecz wzmocnienia bezpieczeństwa AI, oparty na filarach klasycznych standardów NIST.W książce poruszono kilka interesujących tematów, takich jak: zatrucie danych, omijanie zabezpieczeń, naruszenia prywatności, wykorzystanie sieci GAN do ataków i tworzenia deepfake'ów oraz nowe zagrożenia związane z wstrzykiwaniem promptów i ekstrakcją danych z LLM. Omówiono też problematykę związaną z zatruciem LLM różnymi metodami, jak również zagrożeniami wynikającymi ze stosowania otwartodostępnych modeli LLM. Wszystkie te informacje mają na celu przygotowanie specjalistów do skutecznej ochrony systemów AI przed nadużyciami.