맨디언트가 악성 활동에 AI 활용을 시도하거나 해당 분야에 관심을 보이는 사이버 공격자의 다양한 방법을 공유하는 새로운 보고서를 발표했다.

이번 보고서에는 그동안 관찰한 AI 기반 사이버 공격과 공격자의 다양한 미디어 형태를 요약한 내용이 담겨있다.

구글 클라우드 맨디언트 위협 인텔리전스 총괄 존 헐트퀴스트(John Hultquist)와 구글 클라우드 맨디언트 인텔리전스 부사장(VP) 산드라 조이스(Sandra Joyce) 성명을 발표했다.

구글 클라우드 맨디언트 위협 인텔리전스 총괄 존 헐트퀴스트는 “생성형 AI 활용이 예측되거나 이를 사용하고 있는 공격자가 이미 존재하지만 도입은 여전히 제한적이며 주로 사회공학 기법에 초점을 맞추고 있다. 범죄자와 국가 차원의 공격자가 이 기술을 유용하다고 생각할 것은 의심의 여지가 없다. 하지만 이 툴의 사용 방법에 대한 많은 추정은 아직까지 단지 추측에 그치며, 특정 케이스 관찰을 기반으로 하지는 않는다”고 설명했다. 

구글 클라우드 맨디언트 인텔리전스 부사장(VP) 산드라 조이스(Sandra Joyce)는 “악성 활동에서 AI가 사용된 지 꽤 오래됐지만 이제는 일반 대중도 주목하는 변곡점에 도달했다. 다른 기술 혁신과 마찬가지로 공격자들은 이러한 툴에 대한 애플리케이션을 모색할 것이다. 그러나 이를 직접적으로 개발할 수 있는 권한을 가진 방어자들이 여전히 훨씬 유리하다. AI 기술에 대한 소유권은 아직까지 우리에게 있다. 악의적으로 AI를 사용하는 공격자는 계속 존재하겠지만 그것이 공격자에게 대응하기 위한 혁신을 위해 도약하는 것을 막지는 못할 것"이라고 말했다. 

맨디언트 관계자는 "악의적인 공격자들이 일반 대중이 진짜와 AI를 활용한 가짜를 구분하지 못하는 점을 계속 악용할 것으로 예상한다. 이번 보고서가 사용자와 기업 모두에게 수집하는 정보에 대한 주의를 환기시키는 계기가 되기를 바란다"고 전했다.