미국 정부가 자국의 주요 IT 7곳으로부터 “인공지능(AI) 관련 위험 감소를 위해 노력하겠다”는 ‘자발적 약속’을 확보했다고 C넷 등이 보도했다.

보도에 따르면, 조 바이든 미국 대통령은 미국 시간으로 7월 21일 아마존, 마이크로소프트, 메타, 구글, 오픈AI, 앤트로픽, 인플렉션 AI 등 7개 사와 백악관에서 만나 AI 기술 개발에 있어 “안전, 보안, 신뢰성을 중시하겠다”는 합의를 이끌었다. 각 카테고리의 세부 내용은 다음과 같다.

안전성 : 각 기업들은 “AI 시스템의 안전성과 기능을 시험하고, 제3의 기관에서 시험을 받고, 생물학, 사이버 보안, 사회와 관련된 잠재적 위험을 검증하고 그 검증 결과를 공개할 것”에 합의했다.

보안 : 각 기업들은 자사의 AI 제품을 ‘사이버 위협과 내부자 위협으로부터’ 보호하고, ‘오남용을 방지하고, 사회에 대한 위험을 줄이며, 국가의 안전을 지키기 위한 모범 사례와 기준’을 공유하기로 했다.

신뢰성 : 확보된 가장 큰 합의사항 중 하나는 이미지가 원본인지, AI에 의해 변형되거나 생성된 것인지를 사용자가 쉽게 알 수 있도록 하는 것이다. 각 기업들은 차별과 편견을 조장하지 않을 것, 아동을 피해로부터 보호할 것, 기후변화와 암과 같은 문제 해결에 AI를 활용할 것 등을 약속했다.

각 사의 견해와 동향

메타는 백악관과의 합의를 환영한다고 밝혔다. 이 회사는 지난주 2세대 대규모 언어 모델 ‘Llama 2’를 오픈소스로 무료로 제공하기 시작했다.

닉 클레그(Nick Clegg) 메타 국제문제 담당 사장은 “새로운 AI 모델을 개발할 때 IT 기업은 시스템 구조에 대한 투명성을 확보하고 산업계, 정부, 학계, 시민사회와 긴밀하게 협력해야 한다”고 말했다.

브래드 스미스(Brad Smith) 마이크로소프트 부회장 겸 사장은 백악관과의 합의에 대해 “AI가 위험에 앞서지 않도록 하겠다는 약속을 확보하기 위한 토대를 마련하는 것”이라고 말했다.

마이크로소프트는 Llama 2에서 메타와 협력하고 있다. 또한 2023년 들어 ‘Chat(챗)GPT’를 활용한 AI 탑재 ‘빙(Bing)’ 검색을 제공하기 시작했으며, ‘Microsoft 365’와 ‘Edge’ 브라우저에 점점 더 많은 AI 툴을 제공하고 있다.

오픈AI의 국제문제 담당 부사장인 안나 마칸주(Anna Makanju)는 이번 백악관과의 합의에 대해 “AI 거버넌스를 촉진하기 위해 전 세계 정부, 민간 사회단체 등과 지속적으로 협력하고 있다”며 “전 세계 정책 입안자들이 고도의 능력을 가진 AI 시스템을 대상으로 하는 새로운 법률을 검토하고 있다. 오늘의 합의는 그 지속적인 논의에 대한 구체적이고 명확한 실천에 기여할 것이다”고 말했다.

팀 도일(Tim Doyle) 아마존 홍보 담당자는 “AI 도구 및 서비스 개발 및 배포에서 세계를 선도하는 기업 중 하나로서 이번 자발적 약속을 지지한다”며 “우리는 고객을 위해 혁신을 추진하는 동시에 소비자와 고객을 보호하기 위해 필요한 안전장치를 수립하고 구현하는 데 전념하고 있다”고 말했다.

아마존은 팟캐스트와 음악 외에도 '아마존 웹 서비스(AWS)'에서 AI를 활용하고 있다.

앤트로픽은 “AI의 안전성을 위한 경쟁에 참여해야 한다”며 “몇 주 내로 '사이버 보안, 레드팀 출범, 책임감 있는 사업 확장'에 대한 계획을 발표할 예정”이라고 밝혔다.

인플렉션 AI의 공동 창립자이자 CEO인 무스타파 술레이만(Mustafa Suleyman)은 “안전에 대한 상당한 작업이 남아있다. AI의 안전은 지금까지는 구상과 회의의 영역에 머물러 있다”며 “열광적인 관심과 혼란에 비해 눈에 보이는 진전이 부족하다. 인플렉션은 이에 대해 우려와 좌절감을 느낀다”고 말했다.

켄트 워커(Kent Walker) 구글 국제문제 담당 사장은 “오늘은 AI를 모두에게 도움이 되는 것으로 만들기 위해 업계가 단결하는 획기적인 이정표가 될 것이다. 이러한 약속은 G7, 경제협력개발기구(OECD), 각국 정부가 AI의 혜택을 극대화하고 위험을 최소화하기 위한 노력을 지원할 것”이라고 말했다.

기타 움직임

한편, 지난 3월 챗봇 ‘바드(Bard)’를 선보인 구글은 앞서 AI 콘텐츠에 '워터마크'를 넣겠다고 밝힌 바 있다. 이 회사의 AI 모델 ‘Gemini’는 AI가 생성한 텍스트, 이미지, 동영상을 식별한다. 콘텐츠에 내장된 메타데이터를 확인함으로써 사용자가 수정되지 않은 것과 AI가 생성한 것을 구분할 수 있도록 한다.

이미지 소프트웨어를 제공하는 어도비도 마찬가지로 AI 툴 ‘파이어플라이(Firefly)’의 AI 생성 이미지에 메타데이터로 태그를 달아 AI 시스템에 의해 생성된 것임을 표시하고 있다.

바이든 행정부는 AI로부터 미국인의 안전을 보장하기 위한 대통령령 작성과 초당적 법제화도 추진하고 있다. 또한 미국 행정부 예산관리국은 AI 시스템을 조달하거나 이용하는 모든 연방 기관에 대한 가이드라인을 발표할 예정이다.