미국 연방통신위원회(FCC)는 AI 기술의 발전이 로보콜과 로보텍스트와 같은 불법적이고 원치 않는 통신에 미칠 영향을 분석하기 위해 NOI(Notice of Inquiry)를 통한 의견수렴 이후 NPRM으로 규제방안을 발표했습니다. AI 기술의 잠재적 위험과 이점을 균형있게 평가하여, 보다 나은 소비자 보호 정책을 수립하려는 노력이 진행되고 있습니다.
1. 배경 및 목적
AI에 기반한 음성 복제 및 텍스트 생성 기술이 TCPA 준수에 도전이 되고 있다고 판단한 FCC는 AI 기술이 TCPA 규제에 어떤 영향을 미치는지 분석하고, 소비자 보호를 강화할 수 있는 정책을 모색하려고 함
TCPA(the Telephone Consumer Protection Act): 인공 음성과 자동 전화 시스템을 사용하는 원치 않는 전화와 문자 메시지를 규제하는 법률.
2. 조사의 초점
TCPA 적용 맥락에서 AI를 정의하고, 관련 기술의 사용 사례를 검토
- 장점: AI를 활용하여 불법 통신을 탐지 및 차단하고, 장애인을 위한 접근성을 향상할 수 있는 방법.
- 위험: AI가 악의적으로 사용되어 소비자 피해를 유발하거나 합법적인 통신이 차단될 가능성.
3. AI 기술의 이점과 위험
이점: AI 기반 분석으로 불법 로보콜과 로보텍스트를 탐지 및 차단하고, 네트워크 트래픽 패턴을 식별하여 사기 방지가 가능, 접근성 향상을 통해 장애인 지원
위험: 음성 복제 기술로 신뢰를 악용한 사기 증가. 자동화로 불법 로보콜과 로보텍스트의 규모 확대. 비윤리적 AI 사용으로 사회적 혼란 및 사기 유발
4. 향후 조치
정책 제안: AI 기술로 생성된 음성 및 텍스트 콘텐츠의 인증 시스템(예: 디지털 워터마크) 도입 검토. TCPA 준수 보장을 위한 AI 개발자와의 협력 강화. 악의적인 AI 사용 근절을 위한 사법 당국 및 산업계와의 협력 확대.
소비자 교육: AI 기술의 위험과 보호 방안을 알리는 교육 캠페인.
이번 NOI(Notice of Inquiry)는 23년 11월 16일에 발표되었으며, 의견을 2023년 12월 18일까지 수렴하며, 답변은 2024년 1월 16일까지 접수받을 예정이라고 밝혔습니다. 따라서, 의견이 모두 수렴된 상태이며, NOI 이후 단계인 NPRM(Notice of proposed rulemaking) 등을 위한 절차를 진행했습니다.
5. FCC의 AI 기술과 불법 로보콜 규제 방안
FCC는 AI 기술이 로보콜과 로보텍스트에 미치는 영향을 분석하며 새로운 규제를 제안했습니다. 주요 내용은 다음과 같습니다:
- AI 생성 통화 정의: AI를 이용한 음성/문자 생성 기술을 포함하는 통화로 정의하고, 규제 범위를 명확히 함.
투명성 규제:
- AI 기반 통화 시 이를 소비자에게 명확히 고지.
- 사전에 소비자 동의를 요구.
- 장애인 접근성 개선: 장애인을 위한 AI 기반 통화는 일부 규제를 면제.
- 사기 방지 기술: AI로 생성된 사기성 통화를 탐지·차단하는 기술 도입 검토.
- 프라이버시 보호: AI 기술이 개인 데이터에 미치는 영향을 분석하며, 개인정보 보호 규정을 강화할 가능성 탐색.
