EU가 지난 연말 세계 최초로 마련한 인공지능(AI) 규제 법안이 EU의회서 가결됐다. 내달 EU 27개국 장관들의 최종 승인과 관보 게재를 통한 발효 후 6개월부터 순차 시행된다. 전면 시행은 2026년이다.

EU의회는 13일(현지시간) AI규제를 담고 있는 ‘AI법’을 찬성 523표, 반대 46표, 기권 49표로 가결됐다고 밝혔다.

이번 가결된 AI법은 AI활용에 있어 크게 4단계 위험 등급을 나눠 차등 규제한다.

우선 생체인식분류 시스템이나 얼굴인식 데이터베이스를 생성을 위한 AI활용은 고위험으로 분류돼 금지된다. 직장과 학교에서 감정인식과 사회적 채점, 개인 프로파일링이나 특성 평가에 기한 예측치안 등의 AI도 금지된다.

예를 들어 개인의 특성이나 행동과 관련한 데이터로 개별 점수를 매기는 ‘사회적 점수 평가(Socail scoring)’가 원천 금지된다. 생체인식분류나 얼굴인식의 경우 테러와 같은 중대 범죄 용의자 수색 등의 예외적 경우를 제외하고는 전면 금지되고, 이 경우도 법원의 사전 허가를 받아야 한다.

이들 금지 조항은 발효 후 6개월 후부터 바로 적용된다.

고위험 AI시스템 분류에는 중요 인프라와 교육 및 직업훈련, 고용, 의료와 금융 등 필수 민간 및 공공 서비스 등이 포함된다. 이들 고위험 AI시스템 활용시 사람의 감독이 보장돼야 하고, 위험을 줄이는 위험관리시스템을 구축해야 한다.

이번 AI법에서 인간에 준하는 지능을 갖춘 AI를 의미하는 범용AI(AGI)의 가이드라인도 명확히 제정됐다. AGI모델은 EU 저작권법 준수와 교육 콘텐츠의 자세한 요약 게시 등 특정 투명성 요구 사항을 충족해야 한다. 시스템적 위험을 초래할 수 있는 보다 강력한 AGI는 모델 평가 수행과 위험 평가와 완화조치, 사고 보고 등을 만족해야 한다.

이밖에 인공적인 조작 이미지와 오디오, 비디오 콘텐츠 등 딥페이크는 이를 명확히 표시해야 한다.

법안 위반에 따른 과징금은 전세계 매출의 1.5%에서 최대 7%까지 부과될 수 있다.

이날 브란도 베니페이 EU의원(이탈리아)은 “우리는 위험을 줄이고 기회를 창출하며 투명성을 가져오는 AI에 관한 세계 최초의 구속력 있는 법률을 갖게 됐다”면서 “용납할 수 없는 AI관행이 금지되고 노동자와 시민의 권리가 보호될 것이다”고 말했다.