2024년 8월 발효된 EU AI Act(유럽 AI 규제법)는 세계 최초의 포괄적 AI 규제 프레임워크로, 위험 수준에 따라 AI 시스템을 분류하고 의무사항을 부과합니다. 국내외 AI 시스템 개발·운영에 직접적 영향을 미칩니다.
| 위험 등급 | 정의 | 예시 | 규제 수준 |
|---|---|---|---|
| 허용 불가(Prohibited) | 허용되지 않는 AI 관행 | 사회신용 점수, 실시간 공공 생체인식, 서브리미널 조작 | 전면 금지 |
| 고위험(High-Risk) | 기본권·안전에 중대한 영향 | 의료기기, 채용 AI, 신용 평가, 사법 판결 지원 | 엄격한 적합성 평가·등록 의무 |
| 제한적 위험(Limited-Risk) | 투명성 의무만 부과 | 챗봇, 딥페이크 생성 AI | AI임을 고지할 의무 |
| 최소 위험(Minimal-Risk) | 규제 의무 없음 | 스팸 필터, AI 게임, 추천 시스템 | 자율 규제 권장 |
GPT-4·Claude·Gemini 같은 GPAI 모델에 대한 별도 의무사항이 적용됩니다.
| 구분 | 의무사항 |
|---|---|
| 일반 GPAI 모델 | 기술 문서 제공, 저작권법 준수, 학습 데이터 요약 공개 |
| 시스템적 위험 GPAI (계산량 10^25 FLOPs 초과) | 추가적으로: 적대적 테스트·레드팀, 사이버 보안 보호, 심각한 사고 보고 의무 |
| 구성요소 | 내용 |
|---|---|
| AI 윤리 원칙 | 공정성·투명성·책임성·프라이버시·안전성 원칙 수립 |
| AI 위험 관리 | AI 위험 등록부, 영향 평가(AIIA) 수행 |
| AI 거버넌스 위원회 | AI 시스템 검토·승인·감독 의사결정 기구 |
| AI 모델 카드 | 모델 용도·성능·한계·편향 정보 표준화 문서 |
| AI 감사 | 내부·외부 AI 시스템 정기 감사, 설명 가능성 검증 |
AI 감시 소프트웨어가 재택근무 시대를 끝내고 있다. 직원의 키스트로크·화면·표정까지 추적하는 기술의 실체와, 한국 직장인이 알아야…
정보보안기사 실기는 개념을 아는 것보다 로그를 읽고, 규칙을 쓰고, 계산하는 힘에서 점수가 갈립니다. 이번 글은…
호르무즈 해협 뉴스는 이제 '또 공격이 있었다'보다 '얼마나 늘었나'를 봐야 합니다. 이투데이가 FT와 영국해사무역기구(UKMTO) 등을…
이번 추석 연휴, 은행들은 쉬지 못했습니다. 연휴 기간 금융권에서 대규모 개인정보 유출 사고가 터졌기 때문입니다.…
"집 못 팔게 막으면 값이 내려가겠지." 서울 전역이 토지거래허가구역으로 묶이던 1년 전, 이런 기대가 있었습니다.…
다섯 거래일 연속 밀린 코스피가 오늘 아침 크게 반등했습니다. 오전 9시 12분 기준 6,165.02로 전…