2026년부터 시행된다는 EU의 인공지능 규제 법안, 어떤 내용일까?

 

 

안녕하세요, 에디터 SA입니다. 여러분은 일상생활에 AI가 가까이 다가와 있다는 것을 언제 실감하시나요? 최근 저작권 등으로 이슈가 많은 AI 일러스트, 노인 분들도 편하게 사용하실 수 있다는 AI 스피커, 최근 큰 화제를 몰고 온 챗GPT까지… 다양한 일상 속의 AI를 떠올리셨을 것 같네요. 😉

제가 최근에 “AI가 정말 우리 피부에 가깝게 닿고 있구나!” 를 실감한 것은, 최근에 있었던 EU의 법 제정에 관한 뉴스를 보았을 때였습니다. 지난 14일, 유럽 연합에서 세계 최초로 인공지능 규제 법안을 채택했는데요. 찬성 499표라는 압도적인 지지를 보였다고 하지요. AI가 얼마나 빠른 속도로 침투하였기에, AI라는 단어가 익숙해지기 시작한 지 얼마 되지 않아 법안까지 등장하게 된 걸까요? 오늘의 AI 산업 이슈로, 앞으로 AI 산업에 영향을 미칠 규제, 법안에 대해 알아볼까 합니다. 😃

 

 

[ 인공지능 규제 노력, 유럽이 처음은 아니다! ]

미국은 권리장전의 형태로, 중국은 '관리 방법'이라는 필수 지침의 형태로 먼저 AI 관련 규제들을 발표했어요

 

유럽이 법안의 채택한 일은 세계 최초일지 모르지만, 규제 노력에서 선두를 달리고 있는 것은 아니라고 해요. 사실상 다양한 규제 노력, 청사진 등을 발표하며 변화의 흐름을 주도하고 있는 국가는 미국과 중국입니다. 지난해 10월에 바이든 행정부에서 발표한 ‘AI 권리장전 청사진’은 인공지능과 관련한 인권 보호 지침이 주 내용인데요. EU가 채택한 법안에 비하면 약한 조처이고 구속력도 없는 일종의 선언이지만, 이 내용이 향후 법안에 영향을 줄 수 있다는 점에서 의의가 있다고 할 수 있어요.

미국의 권리장전은 안전하고 효과적인 시스템 구축, 알고리즘을 통한 차별 방지, 데이터 관련 사생활 보호, 자동화 시스템의 활용에 대한 고지와 설명, 인간 대안 마련 등 5가지 원칙으로 구성되어 있는데요. 최근 우리 일상에서 나타난 AI 관련 이슈들 몇몇이 떠오르는 내용들이지요? 특히 ‘인간 대안 마련’ 항목은 AI 프로그램에 문제가 발생하면 신속하게 대체할 수 있는 사람과 연락해야 한다는 내용으로, AI와 인간이 공생하기 위해 필요한 가이드라인이라고 할 수 있겠습니다.

중국에서는 지난 4월 11일, ‘생성형 인공지능 서비스 관리 방법’을 발표했는데요. 중국의 규제는 국가 체제가 갖고 있는 특수성과 함께 ‘책임 소재’에 초점을 맞추고 있어요. 이 ‘방법’에 따르면, 생성형 AI 기반 서비스를 제공하는 조직과 개인이 타인의 콘텐츠 생성을 지원할 경우 생성 콘텐츠 생산자로서 책임을 져야 합니다. 또한 콘텐츠가 개인 정보와 관계되어 있으면, 개인 정보 처리자로서 법적 책임을 지고 보호 의무를 이행하도록 정하고 있어요. 그 외에도 사회주의 핵심 가치관 추구, 개발 및 학습 과정에서의 차별적인 콘텐츠 수집 제한, 불공정 경쟁 방지 등 AI 산업 전반에 영향을 줄 내용들이 담겨 있답니다.

 

 

[ EU에서 채택한 법안, 이전의 규제들과 다른 점이 있다고요! ]

 

EU의 이번 법안 채택은 세계 최초라는 점에서 이목이 쏠릴 만한 일이었는데요. 그와 동시에 이전에 중국이나 미국에서 발표된 법안과는 차이가 있다는 점에서도 자세히 살펴볼 만합니다. 중국과 미국에서는 산업의 발달에 영향을 받지 않을 전 범위에 통용될 규제 혹은 권고안을 냈다면, EU의 법안은 AI 산업의 변화 양상을 반영하고 있어 좀 더 세세하고 실용적이라 할 수 있어요. 🤔

유럽 연합의 인공지능 관련 법안 초안은 2021년 4월, EU 집행위원회에서 발표되었는데요. 인공지능 산업 변화의 폭이 크고, 속도 또한 빠르기에 2022년 12월 유럽연합 각료 이사회에서 수정안을 발표했었어요. 그리고 이번에 또, EU 의회에서 가장 최근까지의 논의를 담은 수정안을 발표한 건데요. GPT 모델로 대표되는 파운데이션 모델에 대한 규제가 포함되고, AI의 정의와 고위험 AI 시스템의 목록이 변경되는 등의 변화가 있었습니다.

이렇게 변화에 맞춰 수정을 거듭하고 있는 법안인지라, 쟁점이 되는 AI 관련 이슈들을 모두 다루려는 노력이 엿보인다고 할 수 있겠네요. 물론, 향후 집행위원회를 통과하는 과정에서 내용이 더 추가되거나 수정될 가능성도 있을 거예요. 혹시, AI 개발을 위한 데이터센터 등 인프라에 관한 법안도 나오게 될까요? 고비용의 인프라 확충이 AI 개발, 학습에 있어 중요한 요소이기에 관련 법안도 등장할 법한데 말이에요. 문득 궁금해지네요. 😵‍💫

 

[ EU의 법안 내용 중 눈여겨볼 조항들이 있다면 ]

 

EU의 법안 내용에서 살펴보아야 할 내용이 있다면 ‘고위험’으로 분류한 AI 시스템에 대한 내용이에요. 또한 최근 급부상하고 있는 파운데이션 모델에 법적, 윤리적 문제들이 제기되고 있지만, 그래도 기존의 AI 고위험 분류에 포함하지 않고 별도의 공급자(provider) 의무 조항을 만들었다는 점도 의미가 있습니다. 📋

EU 의회에서는 파운데이션 모델을 “대규모 데이터에 의해 학습되고, 출력의 범용성을 고려하여 설계되었으며, 다양한 작업에 적용될 수 있는” AI 모델로 정의하고 있어요. 이번 법안에서는 파운데이션 모델을 개발한 자 또는 기업이 모델 위험, 데이터 등을 관리하고 모델 신뢰성도 확보해야 하며, 품질 관리, 데이터베이스 등록 등 전체적인 모델 퀄리티 및 신뢰성을 보장하도록 정하고 있는데요. 모델을 공급받아 활용하는 하위 사업자의 서비스 내용까지 고려해서 모델에 대한 기술문서와 지침도 제공해야 한다고 합니다. 앞으로는 AI 개발 플랫폼, AI 모델 등에서 좀 더 자세하게 사용자 여정을 파악할 필요가 있겠네요.

그 외에도 GPT 모델과 디퓨전(Diffusion) 모델처럼 문자, 이미지, 영상 등을 생성하는 AI 시스템에 사용되는 파운데이션 모델의 공급자라면 위의 법안 내용에 덧붙여 추가 의무를 부담합니다. 법안이 실행될 2026년부터, 이용자에게 AI 시스템 활용 사실을 알리고 위법한 콘텐츠 생성을 방지할 수 있도록 모델을 설계·개발·학습하는 의무가 부여돼요. 또한 생성 AI 서비스의 저작권 침해를 방지하기 위해, 생성 AI 파운데이션 모델이 저작권에 의해 보호되는 학습데이터를 이용할 경우, 이에 대한 정보를 문서화하여 공개하는 보호 의무도 함께 지게 됩니다.

 

 

기존의 고위험 AI로 분류된 모델들에 대한 규제 역시 최대한 세세하게 고려하여 정한 법안이라 할 수 있겠는데요. 서비스 내용에 따라 AI와 관련된 위험이 발생할 수도 있다고 보고, AI 개발, 학습에만 국한되지 않도록 AI 산업 및 서비스에 관한 전 범위 여정을 커버할 수 있는 규제를 정하고 있어요. 예를 들면, 고위험 AI 시스템을 활용하여 서비스를 제공하는 개인, 또는 기업은 감독 의무를 져야 하는 등의 내용이 있답니다. 감독관 지정과 자격은 물론, 보안을 위한 모니터링에 대한 것까지 구체적으로 정하고 있어요. 🦾

고위험 AI 시스템에 관한 법안 중 또 챙겨 봐야 할 조항이 있다면, ‘기본권 영향평가’에 대한 내용인데요. 기본권 영향평가는, 고위험 AI 시스템 사용 시 예상되는 기본권에 대한 영향, 취약계층에 발생할 수 있는 위해, 인간에 의한 감독 방안을 포함한 AI 거버넌스 구축 계획 등을 다루고 있어요. AI 시스템을 개발, 구축하는 대기업 및 중견기업들은 이 절차를 반드시 거치고, 정부 감독기관과 사업 관계자들에게 평가 사실을 알려야 한다고 합니다. 또한 중소기업이 겪을 수 있는 AI에 관한 불공정 계약을 규제하는 조항도 함께 정하고 있답니다.

 

 

AI 산업 전반을 고려한 유럽 연합의 법안은, 세상을 AI롭게 만드는 과정에서 필요한 안전장치가 아닐까요? 과도한 규제라는 일각의 비판도 있기는 하지만, 최근 미술이나 음악계에서 일어나고 있는 저작권, 초상권, 창작의 정의에 대한 이슈 등을 생각하면 법안의 필요성은 필요해 보이기도 해요. 주식회사 텐이 생각하는 AI로운 세상, AI로 누구나 가치 실현을 할 수 있는 날을 위해 바람직한 법안과 제도가 정착되기를 기대해 봅니다. 😊