최민희 "AI 워터마크, 사람이 인식할 수 있도록 의무화해야"
국회 과학기술정보방송통신위원회 위원장인 최민희 더불어민주당 의원이 인공지능(AI) 기본법에서 워터마크 표시에 대해 사람이 인식할 수 있는 수준으로 의무화할 것을 촉구했다.
최 의원은 13일 국회 과방위 국정감사에서 “기계가 아닌 사람이 보기에 ‘이것은 AI구나’ 알게 해줘야 한다”며 이 같이 말했다.
(본문 생략, 출처 링크를 참고하세요.)
국회 과학기술정보방송통신위원회 위원장인 최민희 더불어민주당 의원이 인공지능(AI) 기본법에서 워터마크 표시에 대해 사람이 인식할 수 있는 수준으로 의무화할 것을 촉구했다.
최 의원은 13일 국회 과방위 국정감사에서 “기계가 아닌 사람이 보기에 ‘이것은 AI구나’ 알게 해줘야 한다”며 이 같이 말했다.
(본문 생략, 출처 링크를 참고하세요.)
규제란 경제적 규제와 사회적 규제를 구분해서 다뤄야합니다.
이 둘을 분간 못하고 그저 규제라면 철패햐야할 대상으로만 생각하면 안 됩니다.
우리나라가 심하다고 말하는 규제는 경제적 규제를 말하는 거고 사회적 규제는 유럽 선진국에 비해 많이 약하고 더 강화해야합니다.
복잡다단한 현대 사회에서 이 둘을 완전히 구분할 수는 없지만 위의 경우 더 강화해야할 사회적 규제이죠.
다음 대선에서의 딥페이크는 실제와 구분이 불가합니다
AI로 만들 었다는 사실을 속이는 경우 말고는 없지 않나요?
꼭 필요하다고 봅니다. 표시 안 하고 노출하면 제재가 필요하구요.
지금 AI로 만든 영상 사람들이 왠만해선 구분하기 힘든 상황까지 왔습니다. 그나마 눈썰미 좋은 사람들이 구분을 어느정도 할 뿐이지요. 만약 그것이 범죄에 악용되면 그 땐 늦습니다.
실제로 이미 일본 AV쪽에선 꽤 활용하고 있기도 합니다. 잘 모르시겠지만, 이미 유튭숏츠에서도 화질 개선용이라면서 많이 쓰이고 있기도 하구요. 만약 이걸 유명 연예인 얼굴 비슷하게 넣으면 어떻게 대처를 해야할까요? 혹은 협박용으로 만들어 활용하면요?
안그래도 가짜뉴스 때문에 골치 아픈 상황인데, 2찍 애들이 가짜 범죄 현장을 만들어 뉴스로 뿌리면 또 어떻게 대처를 할거구요. 어설픈 논리에도 맞지 않는 가짜뉴스에 낚여서 어린애들이 2찍이 되는 상황이 연출되는 상황인데, 영상까지 만들어지면 어찌 대처하나요? 지금 안하니까 혹은 실력이 없어 못하니까 안전하다는 생각은 버리는 것이 좋습니다.
시간이 가고 기술이 발전할수록 누구나 손쉬워질 수 밖에 없는게 기술이고 AI관련 산업입니다. 그렇게 하려고 발전시키는 것이기도 하구요.
요즘같이 숏폼시대에선 짧게 보기때문에 구분이 더 힘들더군요
그나마 Sora 써있으면 AI구나라고 알지 아닌것은 이거 진짜야? 이렇게 되버리니..
갑자기 특이점이 오게 되어서 이거 한번쯤은 진지하게 논의해봐야 한다고 생각해요
타이틀을 '규제'로 뽑으니 욕먹기 좋은데 'AI 컨텐츠 식별' 이라 하면 또 받아들이는게 다르죠.
/Vollago
"징역 7년, 실존 인물 여부와 관계없이 AI로 사람의 신체 또는 사람으로 인식될 수 있는 성적 영상물을 생성하는 행위를 처벌"
https://www.kado.net/news/articleView.html?idxno=2005240
허영, 김병기 등 발의.
사실과 가상의 세계가 모호해지고 있어서 많은 문제가 생기고 있다고 봅니다.
Gen Ai를 썼는지 안 썼는지 100% 정확도로 판정할수 있는 기술이 사실상 현재로선 없으니까요
Gen Ai를 썼는데 안썼다고 우긴다 한들 처벌할 방법이 쉽지 않죠 심증만으로 관심법 처벌하기도 어렵고
어차피 해외 모델이 주류이고 강제해봐야 한국 제공 안하거나 한국에서 접속 했을 때만 워터마크 표시하겠죠
이런 법은 AI 발전을 막는 것 밖에 안됩니다
그리고 워터마크는 사기피해방지용으로 보이는데 향후 발전된 AI로 영화나 광고 등 여러분야에 쓰이게 될텐데 거기서는 어떻게 하나요? 한국에서만 워터마크 찍힌 영화 보나요
한국만 규제하면 절대 반대!
투명성 확보를 위해서 AI 생성 결과물이라는 표시를 하는것 말이죠
아직 시작은 안됐을지 몰라도 이런 논의는 모두 하고 있고
우리는 아직 인공지능 기본법 시행령 초안 수준이라 늦은 편일겁니다.
업무를 위해 ai를 써도 워터마크가 붙어야 하나요?