코넬 공과대학교와 이스라엘공과대학교, 소프트웨어 기업 인튜이트(Intuit)의 연구자들이 모인 그룹이 생성 AI를 표적으로 한 맬웨어 ‘모리스 II(Moris II)’를 공개했다. 생성 AI가 개인정보 탈취, 스팸 메일 전송 등에 악용될 가능성을 증명하려고 만든 것이다.

모리스 II는 사용자가 조작하지 않아도 악의적인 코드를 계속 실행하는 제로클릭 기능을 가진 맬웨어다. 이 맬웨어에 감염된 생성 AI는 맬웨어를 계속 복제하면서 악의적인 코드를 계속 만들어낸다.

연구자들은 실제로 생성 AI로 이메일 서비스를 사용할 때 모리스 II를 적용, 스팸 메일 전송에 성공했다고 밝혔다. 나아가 이메일 피싱을 악용한 개인정보 탈취에도 성공했다고 덧붙였다.

인튜이트는 가까운 미래, 생성 AI가 악성 코드 제작과 전파에 악용될 가능성을 증명했다고 이를 경고할 목적으로 모리스 II를 개발했다고 밝혔다.