아파르나 파푸,Google Workspace의 부사장 겸 총책임자는 5월 10일 Google I/O에서 연설하면서 사용자가 받은 편지함을 살펴보는 데 도움이 되는 인공 지능에 대한 비전을 제시했습니다. Pappu는 생성 AI가 귀에 긴 이메일 스레드 요약을 속삭이고, 읽지 않은 메시지를 함께 살사하면서 로컬 파일에서 관련 데이터를 가져오고, 삽입 가능한 텍스트를 제안하면서 바닥에 몸을 담그는 방법을 보여주었습니다. 미래의 받은 편지함 에 오신 것을 환영합니다 . 그것이 어떻게 도착할지에 대한 구체적인 내용은 불분명하지만, 생성 AI는 사람들이 이메일을 통해 소통하는 방식을 근본적으로 바꿀 준비가 되어 있습니다. 기계 학습이라고 하는 더 광범위한 AI 하위 집합은 이미 로그오프한 후에도 오랫동안 일종의 안전 춤을 추고 있습니다. Pappu는 WIRED에 "머신 러닝은 우리가 Gmail을 보호하는 데 사용한 중요한 부분이었습니다."라고 말합니다. 의심스러운 이메일에 대한 몇 번의 잘못된 클릭은 보안에 큰 피해를 줄 수 있습니다. 그렇다면 기계 학습은 피싱 공격을 피하는 데 어떻게 도움이 됩니까? 보안에 중점을 둔 Google의 제품 책임자인 Neil Kumaran은 기계 학습이 수신 이메일의 문구를 살펴보고 이를 과거 공격과 비교할 수 있다고 설명합니다. 또한 비정상적인 메시지 패턴에 플래그를 지정하고 메타데이터에서 발생하는 이상한 점을 감지할 수 있습니다. 머신 러닝은 위험한 메시지가 나타날 때 플래그를 지정하는 것 이상을 수행할 수 있습니다. Kumaran은 피싱 공격에 책임이 있는 사람들을 추적하는 데에도 사용할 수 있다고 지적합니다. 그는 “계정 생성 시 평가를 한다. 우리는 '이 계정이 악의적인 목적으로 사용될 것 같습니까?'를 파악하려고 노력합니다.” Google 계정에 대한 피싱 공격이 성공할 경우 복구 프로세스에도 AI가 관여합니다. 이 회사는 기계 학습을 사용하여 합법적인 로그인 시도를 결정합니다. "우리가 알지 못하는 공격을 식별하거나 적어도 사용자에게 미치는 영향을 모델링하기 시작하기 위해 사용자 보고서에서 인텔리전스를 추정하는 방법은 무엇입니까?" 쿠마란에게 묻습니다. 2023년의 많은 질문에 대한 답변처럼 Google의 답변은 더 많은 AI입니다. 이 AI 인스턴스는 늦은 밤까지 긴 대화로 당신을 괴롭히는 시시덕거리는 챗봇 이 아닙니다 . 그것은 알고리즘 팔을 교차하여 선동가를 쫓아내는 건장한 경비원입니다. 반대로 이메일 받은 편지함에 더 많은 피싱 공격을 유발하는 요인은 무엇입니까? 한 가지 추측해 보겠습니다. 첫 글자 "A", 마지막 글자 "I" 수년 동안 보안 전문가들은 AI가 생성한 피싱 공격이 받은 편지함을 압도할 가능성에 대해 경고해 왔습니다 . 메시징 보안 회사인 SlashNext 의 CEO인 패트릭 하(Patrick Harr)는 “언어나 URL을 통해 육안으로 AI를 감지하는 것은 매우 매우 어렵습니다 . 사람들이 AI가 생성한 이미지와 비디오를 사용하여 상당히 설득력 있는 딥페이크를 만드는 것처럼 공격자는 AI가 생성한 텍스트를 사용하여 사용자가 감지하기 어려운 방식으로 피싱 시도를 개인화할 수 있습니다. 광고 이메일 보안에 중점을 둔 여러 회사에서 받은 편지함을 더욱 보호하기 위해 모델을 개발하고 머신 러닝 기술을 사용하고 있습니다. IT 보안 회사인 Barracuda Networks 의 CEO인 Hatem Naguib은 "우리는 들어오는 데이터 모음을 가져와 지도 학습이라고 하는 작업을 수행합니다."라고 말합니다 . 감독 학습에서는 누군가가 이메일 데이터의 일부에 레이블을 추가합니다. 어떤 메시지가 안전할 것 같습니까? 어떤 것이 의심스럽습니까? 이 데이터는 회사가 기계 학습을 통해 피싱 공격에 플래그를 지정하는 데 도움이 되도록 추정됩니다. 이는 피싱 탐지의 중요한 측면이지만 공격자는 보호를 우회하는 방법을 찾기 위해 배회합니다. 구성한 Yeti Cooler 증정품 에 대한 지속적인 사기는 예상치 못한 종류의 HTML 앵커링으로 작년에 필터를 피했습니다. 사이버 범죄자는 온라인 계정, 특히 비즈니스 이메일을 해킹하려는 의도를 유지합니다 . 생성 AI를 활용하는 사람들은 피싱 공격을 여러 언어 로 더 잘 번역할 수 있으며 챗봇 스타일 애플리케이션은 잠재적 피해자와 주고받는 메시지의 일부를 자동화할 수 있습니다. AI로 가능한 모든 피싱 공격에도 불구하고 Aparna Pappu는 더 우수하고 정교한 보안 보호의 지속적인 개발에 대해 여전히 낙관적입니다. "잠재적으로 누군가를 유인하는 데 드는 비용을 낮췄습니다."라고 그녀는 말합니다. "그러나 한편으로 우리는 이러한 기술의 결과로 더 큰 탐지 기능을 구축했습니다."