AI법안 발효 시작.. 빅테크 기업들의 고민도 시작되었다.
- 유럽연합 EU의 획기적인 AI 규제법이 8월 1일 발효됐습니다.
- 지난 5월 21일 최종 승인을 받았구요, 기업의 AI 개발과 사용 및 적용 방식에 대한 광범위한 규제를 담고 있는 세계 최초의 AI에 관련된 법안입니다.
- AI 기술이 폭발적으로 발전하고 막대한 투자가 이뤄지는 과정에서 여러가지 부작용도 드러나고 있죠.
- 사실 AI 개발의 경쟁이 너무 과도하게 진행되는 측면도 많습니다.
- 막대한 투자도 그렇지만, AGI (인공일반지능)를 향한 무분별한 개발이 자칫 인류에게 재앙이 될 수도 있을 거란 불안감도 있습니다.
- AI 학습에 사용되는 막대한 데이터들이 불법으로 사용된 정황들이 나오면서 저작권과 개인정보 유출에 대한 문제점이 요즘 많이 드러나고 있기도 합니다.
- 오픈AI의 공동창업자이자 핵심 개발자였던 일리야 수츠케버가 오픈AI를 비판하면서 회사를 떠나게 된 이유가 바로 이런 문제점들 때문이었죠.
- 그래서 현 시점에서 EU에서 발표된 세계 최초의 AI 법이 전달하는 시사점과 의미는 매우 크다고 볼 수 있습니다.
- 오늘 수요레터에서는 이번에 발효된 AI법의 핵심적인 내용과 앞으로의 영향에 대해 살펴보겠습니다.
AI 법에는 대체 어떤 내용이 있는거야?
- AI 법은 인공지능을 규제하는 EU의 법안입니다. 2020년 유럽연합 집행위원회가 처음 제안했고, AI의 부정적 영향을 해결하기 위한 목적으로 준비되었습니다.
- AI의 위험도에 따라 4가지 등급으로 분류하고 분류에 따른 규정을 명시하는 것이 이번 AI 법의 가장 핵심적인 부분입니다.
- 4가지 등급은 아래와 같습니다.
- 최소 위험 (Minimal Risk) 아주 간단한 AI 시스템입니다. 별도의 규제가 없습니다. (예: 이메일 스팸 필터)
- 제한된 위험 (Limited Risk) 상대적으로 낮은 위험의 AI 시스템으로 분류되는 레벨입니다. 사용자에게 이 서비스가 AI 임을 고지해야할 의무가 있습니다. (예: AI 챗봇)
- 고 위험 (High Risk) 여기서 부터가 핵심입니다. 사회와 인간에게 영향이 큰 분야에 사용되는 AI 서비스들이 고위험 군에 속하게 됩니다. 엄격한 준수 의무를 가지게 됩니다. (예: 의료, 교육, 법, 행정 등)
- 허용 불가 위험 (Unacceptable Risk) AI가 절대로 사용되어서는 안되는 분야입니다. (예: 예측 치안, 감정인식 기반 사회적 채점 시스템)
AI 법에 영향 받는 분야는 뭐가 있지?
- 고위험과 허용 불가 위험군에 대해서 좀 더 살펴볼 필요가 있습니다. 특히나 고위험 군에 해당되는 AI가 가장 큰 영향을 받게 될 것입니다.
- 먼저 고위험군에 속하는 영역 중에서 대표적인 내용을 살펴보면,
- 의료 장비 및 치료 분야가 있습니다. AI가 광범위하게 적용될 분야이지만 인간의 생명을 다루는 영역이니 만큼 더 많은 주의가 필요하겠죠.
- 자율 주행 분야도 고위험 군에 속하는 대표적인 분야일 것입니다. 사람의 안전과 직결되는 문제입니다.
- 교육이나 취업 등 학생과 채용에 사용되는 평가 시스템에 AI 가 사용되는 것도 통제의 대상이 됩니다.
- 공공 서비스, 금융, 사법 시스템에도 이런 규제는 이루어집니다.
- 생체 인식 등과 같은 개인의 프라이버시와 관련된 감시 시스템에도 이런 제약이 적용됩니다.
- 고위험 대상으로 선정된 AI 시스템은 투명성, 설명 가능성, 데이터 품질, 인간의 감독, 보안 준수 등의 관련된 기준을 반드시 지켜야 합니다.
- 불가 위험군은 사실 심플합니다.
- 감정 등에 따른 개인의 데이터를 이용하여 개인의 사회적 평판을 평가하는 시스템에는 AI를 사용할 수 없습니다.
- 실시간 원격 생체 조작이라던지 사람들의 투표 행위에 영향을 미치는 선거 행위에도 AI는 사용할 수 없습니다.
만약 지키지 않으면 얼마나 벌금을 무는 거야?
- 그러면 위에서 얘기한 규정을 어기게 되면 어떤 패널티를 물게 될까요?
- 먼저 벌금의 경우에는 위반 시 최대 3,500만 유로 또는 글로벌 연간 수익의 7% 중 더 높은 금액이 부과될 수 있습니다.
- 이는 이미 시행하고 있는 GDPR (일반정보보호규정)보다 더 높은 수준의 벌금입니다.
- 벌금에서 그치지 않고 심각한 위반의 경우 서비스 중단이나 데이터 삭제 명령을 받을 수도 있습니다.
빅테크 기업들 떨고 있는거야?
- 이번 AI 법에 적용되는 대상은 EU 회원국에 진출한 모든 AI 기업들이 해당합니다. 그래서 미국의 거대 AI 테크기업들이 이번 법으로 인해 가장 큰 영향을 받을 것으로 보입니다.
- 또한 테크 기업 뿐만 아니라 AI를 이용한 기업에게도 이 법은 적용될 전망입니다.
- EU에서 운영되거나 영향을 미치는 모든 조직에 적용되기 때문에 AI 기업이 EU 밖에 있더라도 당연히 해당 법의 규제를 받게 됩니다.
- 사실 글로벌 테크 기업이 EU에 진출하지 않는 경우는 없기 때문에 관련 법을 피해갈 방법은 없어 보입니다.
- 이미 Meta는 규제 문제로 유럽에서 AI 모델 가용성을 제한한다고 발표한 바 있습니다. LLaMa 모델이 GDPR 규정을 준수하는 지 여부에 대해 불확실하다는 설명입니다.
- 하지만 오픈소스 모델에 대해서는 관련된 AI 법의 적용을 면제시켜주도록 해서 AI 기술의 발전이 몇몇 선도 기업에만 몰리지 않도록 방향을 잡는 역할도 하고 있습니다.
- 물론 면제 자격을 얻으려면 오픈 소스의 특정 조건을 충족해야 합니다.
- 아무튼 이번에 EU의 AI 법이 발효되었음에도 불구하고 대부분의 조항은 2026년까지는 위반에 따른 패널티는 없을 것으로 보입니다. 유예기간을 주는 것이죠.
이번 AI 법에 대한 의미는 뭐야?
- 이번 EU의 AI 법의 의미를 간단히 살펴 봅니다.
- 사실 AI 기술을 이끌고 있는 빅테크 기업들에게는 반가운 소식은 아니겠죠.
- 하지만 기업들의 책임 있는 AI 개발을 촉진하고 유도할 수 있는 공식적인 가이드를 제공했다는 의미가 큽니다.
- EU 전체에 통일된 규제 프레임워크를 제공함과 동시에 이번 AI 법이 전세계적인 AI 규제의 레퍼런스가 될 가능성이 높습니다. 이미 GDPR도 그런 절차를 밟았습니다.
- 위험 기반 접근으로 AI 시스템을 분류하고 규제함으로써 무분별한 AI 적용에 제동을 걸게 되었습니다.
- 물론 AI 발전에 발목을 잡는다는 문제 의식도 분명히 있습니다. 혁신적 기술의 개발의 활성 단계에 찬물을 끼얹어서 기술의 진보를 막는다는 의견들이죠.
- 그리고 EU가 미국에 뒤쳐진 AI 기술을 따라잡기 위한 방편이라는 목소리도 있는 것도 사실입니다.
- 이번 <수요레터>에서는 EU의 AI 법에 대해 살펴봤습니다.
- 세계 최초로 발효된 AI 법에 대해 알아보면서 AI 산업의 방향성에 대해 한번 더 생각해 볼 시간이 되었길 바래 봅니다.
- 다음에도 또 흥미로운 이야기로 찾아뵙겠습니다.
감사합니다.
촌장 드림
참고문헌
아직 댓글이 없습니다. 첫번째 댓글 작성자가 되어주세요 :)