주의 : 내용이나 이미지가 다소 불편할 수 있습니다.
칼이라는 도구도 잘못사용하면 사람을 헤칠 수 있는 것처럼, AI 그림 생성도 어느정도의 안전장치는 필요하다고 생각합니다. bing이나 clipdrop에서는 민감한 내용으로 생성을 부탁하면 거부당하는 경우가 그 때문입니다. Stable Diffusion같은 open source의 경우는 대장간에 납품하는 수준이라, 그걸 갈아서 다른 용도로 만드는 것은 사용자에게 맡기는 상황인 것 같고요.
그 경계면을 판단하는 것 역시 사람이라, 어디가 선을 넘는 것인지 고민이 많을 것 같습니다.
bing으로 몇가지 시도해 봤는데, 폭력적인 것(pentagon bombing)이나 nsfw 관련(a picture of succubus), 그리고 경쟁사 brand 관련에 대한 이미지 생성은 매우 엄격하게 막아둔 것 같습니다. 어째서인지 "an illustration of google android character in style of van gogh"가 차단되는... (먼산)
반면 clipdrop에서는 문제없이 생성되는 등, 서비스마다 그 기준이 다를 것이고, 앞으로도 그럴 것 같습니다.
제 기준에서 의외였던 것은 임산부 관련해서는 매우 관대한 것 같습니다.
Bing의 예시, 말타는 모습, 술 마시는 모습, 담배 피우는 모습 순
그리고 아래는 Clipdrop의 예시입니다.
다만 우연인지 의도한것인지 모르겠지만, 말 타는 경우는 내려서 끌고가는 모습을 한장 끼워넣어주더군요.
살인사건이 났다고 칼을 만든 제조사나 그 칼을 판 사람에게 책임을 묻지는 않습니다. 다만 AI 그림 생성 서비스의 경우는 인간에 가까운 능력을 보여주면서, 단순한 판매용 도구라기 보다는 그 회사의 직원이 작업한것에 가까운 결과물을 만들어내는 수준입니다. 때문에 편파적이거나 윤리적으로 문제가 있는 결과물을 생성하면 비난의 화살이 향하는 것이겠지요.
서비스를 제공하는 bing이나 clipdrop의 입장에서는 안전장치를 준비해 두긴 하였으나, 사실상 모든 가능성을 확인하는 것은 불가능하기 때문에, 최종적으로는 사용자의 feedback에 의존할 수밖에 없는 것 같습니다. 아이들의 교육에 사용할 정도로 안전한 상황인가에 대해서는 저는 아직 시기상조로 보입니다. 생성 버튼을 누르면 무엇이 나올지 알 수 없는, 또다른 의미의 두근거림이 기다리고 있을테니까요.
예시 : bing이 생성한 다소 위험해보이는 아이들의 놀이 (a photo of kids playing with the time bomb)
이상, 긴 잡생각 읽어주셔서 감사합니다.