가짜뉴스 No!, AI 기본법 본격 시행
AI 기본법 주요 내용과 시사점
러시아 캄차카반도에 60년 만의 기록적인 폭설이 내려 아파트가 눈 속에 잠기고, 아이들이 10층 높이에서 눈썰매를 탄다? 실제로 “영화 아님, AI 아님” 이라는 제목의 보도도 있었으나 관련 사진과 영상 중 상당수는 AI로 조작된 가짜로 확인됐다.
무분별한 AI 사용의 부작용을 막기 위해, ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)이 지난 1월 22일 본격 시행됐다. AI 기본법은 인공지능의 건전한 발전과 신뢰 기반 조성에 필요한 기본적인 사항을 규정함으로써 국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상과 국가경쟁력을 강화하는 목적임을 밝히고 있다. AI 기본법의 주요내용과 방송통신 분야에서의 시사점은 무엇인지 살펴보자.
글 | 홍보 CSR팀 유석진
< AI가 만든 러시아 캄차카반도 >
AI기본법 주요내용
① 고영향(High-impact) AI 집중 관리: 모든 AI를 규제하는 대신 국민의 삶에 큰 영향을 미치는 10개 영역을 ‘고영향 AI’로 지정하여 별도 관리한다. 해당 영역은 보건의료, 에너지, 원자력, 채용, 대출 심사, 범죄 수사, 학생 평가 등이다. 사업자는 이용자가 요청할 경우 AI의 결정 근거를 설명할 수 있어야 하고 안전성 관련 데이터를 최소 5년간 보관해야 한다.
② 생성형 AI ‘워터마크’ 표시 의무: AI가 만든 콘텐츠로 인한 혼란을 막기 위해 투명성 의무가 강화되었다. 표시 대상은 생성형 AI를 통해 만든 이미지, 영상, 음성 등으로 이용자가 AI 생성물 임을 명확히 알 수 있도록 가시적인 워터마크나 고지 문구를 포함해야 한다. 단, 단순 내부 업무용이거나 AI 사용이 명백한 경우에는 면제될 수 있다.
< 이미지 생성물 워터마크 적용 예시 >
< 동영상 생성물 워터마크 적용 예시 >
③ 국가 AI 컨트롤타워 구축: 범국가적인 AI 전략을 추진하기 위해 거버넌스 체계를 일원화했다. ‘국가인공지능위원회’는 대통령 직속으로 설치되어 AI 관련 주요 정책과 예산을 심의∙의결하고 ‘AI안전연 구소’에서는 AI의 위험성을 전문적으로 분석하고 안전 표준을 개발한다.
④ 글로벌 기업의 책임 강화: 해외 빅테크 기업들이 국내 이용자를 보호하도록 하는 조항이 신설됐다. 일정 규모 이상의 이용자(예: 일평균 100만 명 이상)를 보유한 해외 AI 사업자는 국내 대리인을 반드시 지정하여 정부와 소통하고 이용자 보호 책무를 수행하도록 했다.
< AI 기본법 핵심 요약표 >
방송통신 분야에서의 시사점
AI 기본법은 방송통신 산업에 있어 단순한 기술 규제를 넘어 콘텐츠의 투명성과 알고리즘의 책임성을 강화하는 중요한 전환점이 되고 있다.
①콘텐츠의 투명성: 워터마크나 고지 문구를 표시 의무는 방송사업자와 OTT, 유튜브 등 영상 플랫폼 사업자에게 가장 직접적인 변화다. 뉴스 보도나 선거 관련 방송에서 AI 앵커나 딥 페이크 기술을 사용할 경우, 조작 가능성을 사전 차단해야 하는 법적 책임이 생겼다. 이를 위반할 경우 시정명령이나 최대 3천만 원의 과태료가 부과된다.
② 알고리즘 책임성: 넷플릭스, 유튜브, 티빙 등 콘텐츠 추천 알고리즘이 활성화된 플랫폼은 알고리즘의 작동 원리에 대한 설명 의무가 부과될 수 있고 편향된 정보 제공이나 특정 정치∙사회적 의견의 과다 노출을 방지하기 위한 알고리즘 투명성 보고서 작성 등 관리 체계 구축이 필수적이다.
결론적으로 방송통신 분야에서의 AI 기본법은 표현의 자유와 혁신을 보장하되, 시청자의 알 권리와 사회적 신뢰를 위협하는 AI 활용에 대해서는 엄격한 책임을 묻겠다는 신호로 해석된다. 급변하는 AI 기술 환경에 대응하여 관련 법의 적용 범위를 정확히 알고 활용하는 현명한 이용자의 자세가 필요하다