Malicious AI: the reality of the threat

Hello, Habr! Today we would like to discuss such a delicate topic as malicious AI.





ยซ ยป - , . , , -: , : ยซ ยป (Person of Interest), ยซ ยป (Westworld) ยซ ยป (Raised by Wolves).





, . ?





. , . , . .





: " - , ".  - . - , , . , .





, , . , , .





" ", . , () - , , , , , .





- . , - , , .





, - , .





2018 2020 , . . The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation" (" : , ") 26 14 , , , , , OpenAI.





, . .





-

, , ... - .





- , , , , - , , .





, . , - . , - - .





, . SIEM-, , , .





, , , . , , , .





, - , , ?





: . , โ€œ-โ€, , , , , . - ?





- โ€œ โ€ . 2018 IBM , , - DeepLocker.





, , . - , . DeepLocker - , .





IBM, , . , .





. , , IBM, .  . , - .





: , . , โ€œ โ€, - , .





,

, , .





, , CAPTCHA , XEvil 4.0 ( CAPTCHA ), PWnagotchi 1.0.0 ( Wi-Fi ).





, , : .





, - Spotify Instagram, . - .





Spotify, , 25 180 . , - , ? , .





. , .





, , . , โ€œโ€, .





; , - , .





, , Eagle Eyes, , , , , -. . , .





- . . , .





, . โ€œโ€ , , , - .





. , , , ; , - - . , , - , - , , . , - .





: , - ( ). , . , -.





: - , , . โ€œโ€ , , . .





โ€œโ€ โ€œโ€?  ( ). -.





โ€œ , - โ€, - .





, , .





: , , . , , . , .





, - : . - , .





- . , . - - .





โ€œ โ€, โ€œ โ€.





- , , . - - , , .





โ€œโ€ : , , - . , ( ), โ€œ โ€ - .





- ; , TOR. , , - .





- ?

, . .





" " () - .





. , , , - . - "": , - , , . , . ( , ).





, - .





, , , . , , , .





- โ€œ โ€ - -, โ€œโ€.  ,





. , . ; . , , โ€œโ€ . โ€œ โ€ .





, . - .





- , . โ€œ โ€ , . , ; , ; , - ; - .





: , ( , ).





, . , , - - . ? - , " " โ€œ โ€, , best practices . , . .





.






. , , - . , , , - .





, , , , , , , ? ?





. , . - . . , .





, , , - .





: , , , โ€œโ€ ; - - , , . , โ€œ โ€, - , - .





, , . - .





, , . , - . - .





, . .








All Articles