김민석 총리 “AI 생성물 표시 의무제 도입, 허위 광고 시정에 필요한 심의 속도 단축, 과징금 대폭 상향, 징벌적 손해배상 도입” 예고
AI로 가짜 의사를 만들어 식·의약품을 광고하는 사례가 속출하는 가운데, 정부가 앞으로 AI 생성물에는 해당 사진·영상 등을 AI로 만들었다는 사실을 표시하는 'AI 생성물 표시제'를 도입한다. 이를 어길 시 징벌적 손해배상제도가 적용되는 등 제재가 이뤄진다.
정부는 10일 오전 김민석 국무총리 주재로 열린 국가정책조정회의에서 'AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안'을 발표했다. 이날 김민석 총리는 "허위 과장 광고가 극심하다. SNS를 통해서 급속히 확산되고 있다. 생성형 AI 등 신기술을 악용하는 것들이 있어서, 시장 질서 교란뿐만 아니라 소비자에 대한 피해가 심한 그런 중대한 범죄 행위로 판단하고 있다. 정부는 AI를 활용한 허위 과장 광고에 대해 사전 유통 예방뿐 아니라 신속한 사후 차단도 추진하고자 한다"라고 밝혔다.
금전 제재가 이뤄질 수 있다는 사실도 강조했다. 김민석 총리는 "AI 생성물 표시 의무제를 도입하고 허위 광고 시정에 필요한 심의 속도를 단축하고 과징금을 대폭 상향하고 징벌적 손해배상을 도입할 것"이라고 했다.
먼저 AI 허위·과장 광고 유통 전 사전 방지를 위해 방송미디어통신위원회(방미통위)는 AI 생성물이 실제가 아니라는 점을 소비자가 정확히 알 수 있도록 돕기 위해 '게시물 게시자'와 '플랫폼' 등에 대한 AI 생성물 표시제를 도입한다.
앞으로 AI 생성물을 제작·편집해 게시하는 자인 '직접 정보제공자'는 해당 사진·영상 등을 AI로 만들었다는 사실을 표시해야 한다. 또 플랫폼 이용자가 AI 생성물 표시를 제거하거나 훼손하는 행위도 금지된다. 플랫폼은 '직접 정보제공자'가 표시 의무를 준수하는지 관리(표시 방법 제공, 표시 의무 고지)하도록 한다.
또한, 과학기술정보통신부(과기정통부)는 2026년 1월 AI기본법 시행에 따라 사업자의 AI 생성물 표시 의무 이행과 AI 생성물의 투명한 사용을 돕기 위한 가이드라인을 마련한다.
만일 AI 허위·과장 광고가 유통됐을 시 신속한 차단이 이뤄진다. 방미통위와 방송미디어통신심의위원회(방미심위)는 식·의약품, 화장품, 의약외품, 의료기기 등 AI 허위·과장광고가 빈발하는 영역을 서면심의 대상에 추가하도록 추진한다. 신속 심의가 요청되면 24시간 내 신속 심의가 이뤄질 수 있다. 현재는 마약류에만 적용되는 식약처 전용 방미심위 심의신청 시스템(패스트트랙)도 이들 품목까지 확대 적용해 안건 상정 시간도 단축할 계획이다.
또한 국민의 생명·재산 피해 우려가 커 시급한 조치가 필요한 경우에는, 방미통위의 플랫폼사에 대한 긴급 시정요청 절차를 도입해 방미심위 심의 완료 전에 차단할 수 있도록 한다. 관계당국이 방미통위에 요청하면 방미통위는 플랫폼사에 임시 시정조치를 요청하고 플랫폼사는 시정조치를 이행한다. 방미심위 심의 결과에 따라 게시물 차단을 확정하거나 원상 복귀한다.
공정위와 식약처는 AI로 만든 전문가가 제품을 추천하는 광고에 대한 위법성 판단 기준을 명확화함으로써 예측 가능성을 제고하고 허위·과장 광고에 대한 신속한 제재 조치가 이뤄질 수 있도록 한다.
만일 AI가 제품을 추천하는 경우 추천자가 '가상인간'임을 표시하지 않으면 '부당한 표시광고'에 해당한다. 또 AI가 생성한 의사 등 전문가가 식·의약품을 추천하는 광고 행위는 '소비자 기만 광고'다.
정부는 "방미통위와 공정위는 위법행위자에 대한 금전 제재를 강화함으로써 위법 행위 유인을 약화시키고 적발 시에는 엄중히 제재한다"라고 밝혔다. 이를 위해 △정보통신망 등에서 악의적인 허위·조작정보 유통 행위에 대한 징벌적 손해배상(손해액의 최대 5배)을 도입하고 △표시·광고법상 허위·과장 광고에 대한 과징금 수준도 대폭 상향한다고 밝혔다.
