그래픽 출처 : https://m.yna.co.kr/amp/view/GYH20240801001200044
유럽연합(EU)의 인공지능(AI) 규제법인 AI Act
세계 최초의 포괄적인 AI 법률로, AI 시스템의 개발 및 사용을 규제하여 안전하고 신뢰할 수 있는 AI를 촉진하는 것을 목표로 합니다. 이 법은 AI 시스템의 위험 수준에 따라 다른 규제를 적용하며, 주요 내용은 다음과 같이 분류할 수 있습니다.
1. 위험 수준에 따른 규제
1.1. 용인 불가능한 위험(Unacceptable Risk)
용인 불가능한 위험으로 간주되는 AI 시스템은 금지됩니다. 여기에는 다음과 같은 시스템이 포함됩니다:
- 사람이나 특정 취약 그룹을 조작하는 시스템 (예: 위험한 행동을 유도하는 음성 인식 장난감)
- 사회적 점수 매기기 (행동, 사회경제적 상태 또는 개인 특성에 기반한 사람 분류)
- 생체 인식 및 분류 시스템
- 실시간 및 원격 생체 인식 시스템 (예: 얼굴 인식) [1][2][5]
1.2. 고위험(High Risk)
고위험 AI 시스템은 안전 또는 기본 권리에 부정적인 영향을 미칠 수 있는 시스템으로, 엄격한 요구사항을 충족해야 합니다. 고위험 AI 시스템은 다음과 같이 분류됩니다:
- EU 제품 안전법에 따라 규제되는 제품에 사용되는 AI 시스템 (예: 장난감, 항공, 자동차, 의료 기기)
- 특정 영역에서 사용되는 AI 시스템 (예: 중요 인프라 관리, 교육, 고용, 법 집행, 이민 관리) [1][2][3][5]
1.3. 제한적 위험(Limited Risk)
제한적 위험 AI 시스템은 투명성 요구사항을 충족해야 합니다. 예를 들어, 챗봇과 같은 시스템은 사용자에게 AI와 상호작용하고 있음을 명확히 알려야 합니다. [1][2][6]
1.4. 최소 위험(Minimal Risk)
최소 위험 AI 시스템은 대부분 규제되지 않습니다. 여기에는 AI 기반 비디오 게임 및 스팸 필터가 포함됩니다. [1][6]
2. 투명성 요구사항
생성형 AI(예: ChatGPT)는 고위험으로 분류되지 않지만, 다음과 같은 투명성 요구사항을 충족해야 합니다:
- 콘텐츠가 AI에 의해 생성되었음을 공개
- 불법 콘텐츠 생성을 방지하도록 모델 설계
- 학습에 사용된 저작권 데이터 요약 공개 [1][3][5]
3. 혁신 지원
AI Act는 스타트업과 중소기업(SME)이 AI 모델을 개발하고 훈련할 수 있는 기회를 제공하기 위해 테스트 환경을 제공해야 합니다. [1][3][9]
4. 적용 일정
AI Act는 2024년 8월 1일에 발효되며, 주요 규정은 다음과 같은 단계별 일정에 따라 적용됩니다:
- 용인 불가능한 위험 AI 시스템 금지: 발효 후 6개월
- 생성형 AI 시스템 규칙: 발효 후 12개월
- 고위험 시스템 관련 요구사항: 발효 후 36개월 [1][4][9]
5. 벌칙
규제를 위반할 경우 최대 3,500만 유로 또는 전 세계 연간 수익의 7% 중 높은 금액의 벌금을 부과할 수 있습니다. [2][5]
이와 같은 규제는 AI 시스템이 기본 권리와 안전을 존중하고, 윤리적 원칙을 따르도록 보장하며, 특히 강력하고 영향력 있는 AI 모델의 위험을 다루는 데 중점을 둡니다.
Citations:
[1] https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence
[2] https://www.wilmerhale.com/en/insights/blogs/wilmerhale-privacy-and-cybersecurity-law/20240314-the-european-parliament-adopts-the-ai-act
[3] https://www.europarl.europa.eu/news/en/press-room/20240308IPR19015/artificial-intelligence-act-meps-adopt-landmark-law
[4] https://www.mayerbrown.com/en/insights/publications/2024/07/eu-ai-act-published-which-provisions-apply-when
[5] https://www.hklaw.com/en/insights/publications/2024/03/the-european-unions-ai-act-what-you-need-to-know
[6] https://artificialintelligenceact.eu/high-level-summary/
[7] https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
[8] https://www.ibm.com/topics/eu-ai-act
[9] https://www.consilium.europa.eu/en/press/press-releases/2024/05/21/artificial-intelligence-ai-act-council-gives-final-green-light-to-the-first-worldwide-rules-on-ai/
그래픽 출처 : https://m.yna.co.kr/amp/view/GYH20240801001200044
유럽연합(EU)의 인공지능(AI) 규제법인 AI Act
세계 최초의 포괄적인 AI 법률로, AI 시스템의 개발 및 사용을 규제하여 안전하고 신뢰할 수 있는 AI를 촉진하는 것을 목표로 합니다. 이 법은 AI 시스템의 위험 수준에 따라 다른 규제를 적용하며, 주요 내용은 다음과 같이 분류할 수 있습니다.
1. 위험 수준에 따른 규제
1.1. 용인 불가능한 위험(Unacceptable Risk)
용인 불가능한 위험으로 간주되는 AI 시스템은 금지됩니다. 여기에는 다음과 같은 시스템이 포함됩니다:
- 사람이나 특정 취약 그룹을 조작하는 시스템 (예: 위험한 행동을 유도하는 음성 인식 장난감)
- 사회적 점수 매기기 (행동, 사회경제적 상태 또는 개인 특성에 기반한 사람 분류)
- 생체 인식 및 분류 시스템
- 실시간 및 원격 생체 인식 시스템 (예: 얼굴 인식) [1][2][5]
1.2. 고위험(High Risk)
고위험 AI 시스템은 안전 또는 기본 권리에 부정적인 영향을 미칠 수 있는 시스템으로, 엄격한 요구사항을 충족해야 합니다. 고위험 AI 시스템은 다음과 같이 분류됩니다:
- EU 제품 안전법에 따라 규제되는 제품에 사용되는 AI 시스템 (예: 장난감, 항공, 자동차, 의료 기기)
- 특정 영역에서 사용되는 AI 시스템 (예: 중요 인프라 관리, 교육, 고용, 법 집행, 이민 관리) [1][2][3][5]
1.3. 제한적 위험(Limited Risk)
제한적 위험 AI 시스템은 투명성 요구사항을 충족해야 합니다. 예를 들어, 챗봇과 같은 시스템은 사용자에게 AI와 상호작용하고 있음을 명확히 알려야 합니다. [1][2][6]
1.4. 최소 위험(Minimal Risk)
최소 위험 AI 시스템은 대부분 규제되지 않습니다. 여기에는 AI 기반 비디오 게임 및 스팸 필터가 포함됩니다. [1][6]
2. 투명성 요구사항
생성형 AI(예: ChatGPT)는 고위험으로 분류되지 않지만, 다음과 같은 투명성 요구사항을 충족해야 합니다:
- 콘텐츠가 AI에 의해 생성되었음을 공개
- 불법 콘텐츠 생성을 방지하도록 모델 설계
- 학습에 사용된 저작권 데이터 요약 공개 [1][3][5]
3. 혁신 지원
AI Act는 스타트업과 중소기업(SME)이 AI 모델을 개발하고 훈련할 수 있는 기회를 제공하기 위해 테스트 환경을 제공해야 합니다. [1][3][9]
4. 적용 일정
AI Act는 2024년 8월 1일에 발효되며, 주요 규정은 다음과 같은 단계별 일정에 따라 적용됩니다:
- 용인 불가능한 위험 AI 시스템 금지: 발효 후 6개월
- 생성형 AI 시스템 규칙: 발효 후 12개월
- 고위험 시스템 관련 요구사항: 발효 후 36개월 [1][4][9]
5. 벌칙
규제를 위반할 경우 최대 3,500만 유로 또는 전 세계 연간 수익의 7% 중 높은 금액의 벌금을 부과할 수 있습니다. [2][5]
이와 같은 규제는 AI 시스템이 기본 권리와 안전을 존중하고, 윤리적 원칙을 따르도록 보장하며, 특히 강력하고 영향력 있는 AI 모델의 위험을 다루는 데 중점을 둡니다.
Citations:
[1] https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence
[2] https://www.wilmerhale.com/en/insights/blogs/wilmerhale-privacy-and-cybersecurity-law/20240314-the-european-parliament-adopts-the-ai-act
[3] https://www.europarl.europa.eu/news/en/press-room/20240308IPR19015/artificial-intelligence-act-meps-adopt-landmark-law
[4] https://www.mayerbrown.com/en/insights/publications/2024/07/eu-ai-act-published-which-provisions-apply-when
[5] https://www.hklaw.com/en/insights/publications/2024/03/the-european-unions-ai-act-what-you-need-to-know
[6] https://artificialintelligenceact.eu/high-level-summary/
[7] https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
[8] https://www.ibm.com/topics/eu-ai-act
[9] https://www.consilium.europa.eu/en/press/press-releases/2024/05/21/artificial-intelligence-ai-act-council-gives-final-green-light-to-the-first-worldwide-rules-on-ai/