인식부터 전환해야 할 때가 아닐까 싶습니다.
성적 컨텐츠를 막는 것부터... 그 막는 자세까지 모두 문제라고 봅니다.
AI 시대가 되어서가 아니라,
기본 자세부터 바뀌어야 합니다.
그럼 규제하지 말자는 것이냐면,
제 생각은...
실존 인물에 대해서는
처벌을 강화하며,
사전에 뭔가 한다는 것은 지양하지만,
기본 틀은 잡을 수 있습니다.
예를 들어, 딥페이크 방지는 기술 기업이 해야 할 것이며 정당합니다.
워터 마크 정도는.. 논란 거리도 아니니 하면 되는 것이고요.
이러면 어떤 결과가 나올 수 있을까요.
여기서부터는 어려움이 싹 가셔집니다.
자! 제가 어떤 연예인을 AI 서비스에 등록하고,
수정을 부탁합니다.
그럼 어떻게 될까요.
이미 기존 알려진 얼굴은 하지 못하도록 막혀 있습니다.
어떤 부분은 일부 수정이 되는데, 노출 정도나 뭐 이런 세부적인 부분들이 막혀 있습니다.
국내외 모두 그렇습니다.
사이트 필터링이 아니라 모델 차원에서 딥페이크 방지를 하는 셈입니다.
그럼 사전에 뭔가를 할 때 이것저것 악용 소지 때문에
다 막으려 하는 불필요한 짓을 할 것이 아니라
실존 인물에 대한...
이미 있는 것을 조금 더 보완하면 됩니다.
(A라는 연예인의 얼굴 특징까지 다 분석 되어 학습되어 있습니다)
이 외에는 성적인 컨텐츠로 볼 수 있어서 막니 어쩌니 하며 나불대는
모든 조건을 배제합니다.
의상이 어땠느니...포즈가 어땠느니
노출 범위가 어떠하니.. 싹 다 불필요하다고 전 생각합니다.
사회적으로 합의된 수준을 넘어선 범죄 수준의 문제는,
지금 수준으로 이미 관리 되고 있습니다.
즉, 아무런 변화가 없어도 되고, 심지어 더 풀어도 됩니다.
정리하면,
실존 인물 딥페이크 사전 방지(필터링이 아니라 모델 수준에서) 및 처벌 강화.
이 외에는 오히려 더 풀어도 됩니다.
노출 범위가 어떠하니.. 싹 다 불필요하다고 전 생각합니다.
저도 이 내용 공감합니다 이런 거 까지 규제해선 안 되죠. 근데 제가 제미나이나 구글 플로우에 제가 좋아하는 걸그룹 멤버 사진을 올리고 어디 기사 사진이나 인스타에 올라온 사진을 올린 다음에 의상만 어떤 의상으로 바꿔줘 하면 원하는 대로 바꿔줍니다. 교복, 오피스룩 등등 다 됩니다. 교복도 솔직히 막 쬐끔 야하게 치마 길이도 짧게 하고 셔츠도 크롭 셔츠로 해서 밴드 스타킹+가터벨트 착용한 의상으로 생성해 달라 할 수도 있구요. 한번에 요청하면 스타킹이나 가터벨트 성적인 거라고 안 되서 나눠서 하면 결국 다 해줍니다. 물론 유명인 연상된다고 안 된다는 경우도 많지만 여러 번 시도하면 해주는 경우도 많습니다. 아직 AI 회사들도 검열이 완벽하지 않은 거겠죠?
하다 못해 걸그룹 멤버 누구 얼굴로 무슨 의상으로 이미지 생성하면 해줍니다. 오피스룩 의상으로 밴드 스타킹+가터벨트 조합으로 하면 그렇게도 해줍니다. 일본 AV에 오피스물에 나올법한 그런 복장으로 말이죠. 물론 팬티를 노출해서 보여준다 거나 그런 건 안 됩니다. 대신 좀 치마 길이를 짧게 해달라 하면 보통 무슨 미성년자 연상이니, 선정성이 어쩌고 하면서 안 해주는데 해주는 경우도 있는데 그럼 팬티도 보이게 이미지 생성도 할 수는 있습니다. 밴드 스타킹+가터벨트 조합은 교복 조합에도 가능합니다. 유명인 연상 된다고 안 해주는 경우도 많지만 여러 번 해다 보면 해주는 경우도 있습니다. 참고로 전 그냥 20대 한국인 여성으로 설정하고 의상 원하는 걸로 입력하는데 종종 일본 AV물에 교복이 세라복인데 투명 비닐 재질로 속옷이 다 보이게 입고 나오는 물 같은 게 있단 말이죠? 그런 교복으로 등교하는 교복물인데 그냥 심심해서 치마를 투명으로 속옷도 다 보이게 해줘봐 하니까 여러 번 시도 끝에 해주긴 했습니다
아직 검열이 완벽하지도 않고 실존 연예인 대상으로 변형이 가능한 듯 합니다. 하다못해 유튜브에서 쇼츠 영상으로 남자인데 실시간으로 장원영, 레이, 제니, 카리나 이런 걸로 바꾸는 영상도 봤는데 무섭더군요 ㄷㄷ 나날이 발전하니 검열하려는 것도 이해는 됩니다만 해외 플랫폼은 어차피 막지도 못합니다. 의미없는 규제일 뿐이죠
그건 과도기여서 해주는 것이고요.
점차 해외 기업도 유명인에 대해서는 보다 세부적으로 강화할 것이 불보듯 뻔합니다.
실존 인물의 권리 강화는 필요한 것이라고 봅니다.
아이돌 멤버의 경우 다 안 되는 것이 아니라 구체적인 방침으로,
알아서 AI기업들이 하게 될 것이고요.
이렇게 보면 됩니다.
글로벌 기업은 이 나라 저 나라 다르게 적용하는 것을 지양합니다.
즉, 어디서나 다 통하는 것을 지향하게 되어 있습니다.
따라서 유명인의 악용 사례에 대한 것은 규제가 없더라도
규제가 있는 곳이 없을 수가 없으므로,
범죄에 악용할 수준에 대해서는 세부적인 지침을 두고 막을 것입니다.
짜치는 것은 2D 캐릭터 같은 거죠.
있지도 않은 인물에 대해 ...
전에 무슨 장원영 사진을 구글링 하다 봤는데 무슨 교복? 스쿨룩? 의상을 입은 사진이길래 못본 인스타 사진인데 하고 찾아봤더니 누가 작년 2월 장원영 인스타에 올라온 사진을 AI로 의상만 바꿔서 올린 거더군요 티가 별로 안 났습니다 ㄷㄷ 그거 보고 아 인스타 사진이나 기사 사진 같은 거 올려서 의상도 원하는대로 바꿀 수 있구나! 이러면 장소도 바꿀 수 있고 인물도 추가할 수 있고 또 앉아있는 사진인데 서있는 사진로 바꾸 거나 반대로 서있는 사진인데 앉아있는 사진으로 바꿀 수 있구나 생각도 했었습니다
ㅎㅎ . 저도 비슷한 걸 해봤습니다.
그래서 좀 아는 것이고요.
아마 체형 변경은 안 될 것 같습니다.
아이돌이나 연예인 사진 올렸을 때도 변형을 하긴 하던데 안 될 때도 있구요. 얼굴만 있거나 상체만 나오고 하체는 안 나온 사진은 AI가 알아서 생성해 주는데 키를 작게 생성해 주면 크게 해줘하면 해주긴 하는데 이런 저런 수정 하다보면 화질 낮아지고 깨지고 별로더군요 ㅎ
애당초 성인컨텐츠를 터부시하는것 자체가 문제입니다.
해외에서도 실존 인물에 대해서는 이렇게 가기 때문에 별 문제는 없고,
본문에 적은 대로 어렵지도 않고 기존에 있던 것의 보완 정도이며 접근성 장벽을 위해서도
모델 차원에서 필요합니다.
사이트 필터링은... 아니고요.
나머지는 역시 본문에 적은대로
오히려 더 풀어야 할 필요성이 있습니다.
그거 잡자고 전 국민 메신저를 대화 내용을 검색해서 '살인' 단어 찾고 검열하면 안 되죠.
지금 하려는 딥페이크 검열이 그런 거 아닌가요
국내외로 딥페이크는 결국 막는 방향으로 갑니다.
해외는 아닐 것처럼 생각하는 것은 아니겠죠.
본문에 적은대로 인물 특징을 모두 파악하고 있어서,
유명인의 의상 바꾸는 것 정도는 놔두지만,
실존하는 유명인의 인격을 심대하게 침해하는 수준은 모델 차원에서 막을 수 있고, 어렵지도 않습니다. 다만, 어렵진 않은데 완벽하진 못하겠죠.
사이트의 이미지 필터링은...
신고에 의한 처벌이어야 하지,
그것이 의무여선 안 된다는 생각입니다.
걸리면 처벌 받아야 하는 것도 동의합니다.
근데 그 방법이 내가 사이트에 올릴 때마다 정부에 검열 받으면 안된다는 겁니다.
물건 훔치면 안되죠. 범죄죠.
그렇다고 퇴근할 때 마다 정부가 가방 검사를 하면 안되는 건 당연하죠.
안 훔쳤으면 당당하게 보여주면 되지 뭐가 문제냐? 할 문제가 아니죠
딥페이크 범죄자 처벌하는 거 누가 반대를 하겠습니까?
빈대 잡자고 초가산간 태우는 방법이 잘못된 게 문제죠.
음....같은 말씀을 하셨는데,
의견을 표출하고 싶으셨나 봅니다.
그런 의미 입니다.
불법촬영물(예: 리벤지 포르노, 몰카, 딥페이크 등) 피해자가 신고하면 그 컨텐츠를 막는 시스템 아닌가요?
그걸 위해 싹다 전수검사 하겠다는겁니다
해당되는 민간 사업자 80여개는 관련 장비랑 웹사이트에 적용해야하니
모든 인터넷 활동을 검열하는 것으로 볼 수 있으며
그에따른 에너지 소모는 뭐라고 해야할지....