8월 21일자 뉴욕타임즈 기사입니다.
마크라는 아버지는 아들의 성기가 부푼 것처럼 보이고 아이가 아파하는 걸 알게 되었습니다.
경과를 추적하기 위해 사진을 찍어두었습니다.
2021년 한 금요일 밤,
마크의 아내는 자신의 아이폰으로 간호사에게 상황을 설명하고 응급 진료를 예약하려 했습니다.
판데믹 기간이었기에 간호사는, 사진을 먼저 보내주면 미리 진료하겠다고 했습니다.
마크의 아내는 사진을 보내주기 위해,
마크의 안드로이드폰에서 자신의 아이폰으로 아이의 환부 사진을 문자로 보냈습니다.
그리고 다행히 아이는 처방을 받을 수 있었습니다.
그러나 이야기는 이렇게 끝나지 않았습니다.
구글은 마크가 아동성범죄자라고 판단하고 그의 모든 계정을 정지해버렸습니다.
마크는 안드로이드에 구글 파이도 이용 중이었기에 이메일, 핸드폰까지 모조리 정지되었습니다.
마크는 구글에 해명하려 했지만 구글은 응답하지 않았습니다.
뒤이어 마크는 구글이 신고하여 샌프란시스코 경찰이 수사 중이란 것도 알게 되었습니다.
당연히 마크를 조사한 경찰은 마크를 무혐의 처리 하였습니다.
좀 불편하긴 했지만 마크는 이제 구글이 정지를 풀어줄 꺼라 생각 했습니다.
하지만 구글의 답변은 NO뿐이었습니다.
마크는 이메일, 사진, 휴대전화, 일정, 연락처 모든 걸 구글을 이용했기에
구글 계정이 정지되면서 말 그대로 모든 것을 잃은 처지가 되었습니다.
아이의 첫 돌 사진까지 모함해서 모조리 말이죠.
마크의 해명에도 구글은 결국 마크의 계정이 영구 정지되었음을 알렸습니다.
출처: https://www.nytimes.com/2022/08/21/technology/google-surveillance-toddler-photo.html
글 쓰고 나니 한국어 기사도 올라와 있네요. "구글 성범죄자 자동 식별" 같은 키워드로 검색하면 됩니다만,
생각하면 그 것도 범죄자로 판단할까봐 두렵네요.
범죄 가능성을 감지하고 차단하는 것까지는 그럴 수도 있다고 생각합니다.
특히 아동성범죄 같은 건 말이죠.
문제는 경찰이 정확하게 검토해서 다시 판단한 걸 자기들이 멋대로 고수하는 건 안되죠.
안그래도 애플 과수원 차린 이후로 이게 맞나...하는 생각이 자주 들었는데
이 기사를 보고 완전히 결심을 굳혔습니다.
지금은 아동 성범죄겠죠. 다음은 뭘까요? "사회를 불안을 야기하는 불온한 움직임"을 미리 식별한다?
징그럽네요 정말.
기사에서는 애플도 비슷한 시스템을 도입하려 했지만 개인정보보호단체의 반발 덕분에
아직 계류 중이라고 합니다.
혹시나 그거 보고 애플은 괜찮다고 생각하시면 안됩니다. 어디까지나 계류 중이지 도입 안하겠다는 게 아니니까요.
그리고 사실 도입이 필요하면 도입할 수도 있죠.
구글처럼 지들이 경찰 위에 있다고 생각 안한다면 말이죠.
이 글도 크롬에서 쓰고 있는데, "구글을 위협하는 불온한 움직임"은 정말 식별안하는지 궁금하네요.
추가++)
구글이 나쁘다, 라고 생각하시기 전에, 이런 문제가 요즘 소위 빅테크 기업 어디서든 일어날 수 있다는 걸 생각해주시기 바랍니다.
예를 들면 카카오 메일, 지도, 톡, 뱅크 등등 쓰다가 카카오 계정 자체가 정지되어 갑자기 아무 것도 할 수 없게된 사례도 있습니다.
특정 기업을 비난하기 전에 이런 소식에서 생각해봐야 할 건
요즘 소위 테크 기업들이 날이 갈수록 고객과 접점을 줄이고 있다는 겁니다.
전화 상담 안하는 건 기본이고 이메일이나 채팅도 안하더니 급기야 구글 같은 데는 포럼에서 문제나 찾아보라고 뺑뺑이나 돌립니다.
위 기사도 많은 부분이 문제긴 하지만,
최소 경찰이 무혐의라는 결과를 냈을 때 구글이 받아들였다면 기사 절반은 써질 필요가 없었겠죠.
다른 한 쪽은,
테크 기업들이 갈수록 클라우드 기반으로 사용자들을 더 자사 서비스만 이용하게 유도한다는 겁니다.
특히 핸드폰을 가지고 있는 애플과 구글이 유명하죠.
이런 상황에서 이렇게 대책없이 전체 계정을 정지해버리는 게 이렇게나 위험하다는 겁니다.
하다못해 폰은 아이폰, 이메일은 구글, 사진은 원드라이브 이렇게라도 분산해야 할 수도 있다는 거죠.
구글은 evil하니까 아이폰만 써야지, ms만 써야지 하는 건 문제 해결에 도움이 되지 않습니다.
애플이, ms가, 카카오가, 네이버가, 페북이 언제 비슷한 정책을 도입할지는 모르는 일이니까요.
애플은 국가차원 권고와 당시엔 미국만 시행의 전제도 있었습니다.
구글과 마소, 페북이 이미 하고 있었음에도 퍼스트 빅브라더인냥 애플만 게이트급으로 뚜드려 맞았는데요.
참고로 저게 더 무서운겁니다. 양비론하기엔 애매해요.
제 기준엔 코드 대조와 AI자의판단을 동일시 하는 정보가 있다면 선동에 가깝습니다.
(근데 영어드립처럼 말도 안되는 양념이 이어질줄은 몰랐네요;;)
그러니 구글 나쁘다고 애플 생태계로 들어가려 하면 제가 부정적으로 반응할 수 밖에 없죠. 차라리 이메일은 구글 사진은 아이클라우드를 쓰는 게 낫다고 생각을 하고요.
대충 헤드라인을 ‘검열’로 뭉뚱그리면 비슷해 보이겠지만요.
일단 애플은 빅데이터 기반의 AI를 구글만큼 못하죠. 미래에 정책이 바뀌고 능력이 생기고 흑화하는 날이 올 수 도 있겠지만 그건 나중에 뭐라도 생긴뒤 생각할 문제가 아닐까요. 참고로 예전의 시리 음성 수집, 도청은 또다른 성격의 사건입니다.
— 추가하자면 애플 쓰는걸 추천하는 댓글이 절대 아닙니다. ㅎㅎ; 그냥 따지자면 성격이 좀 다른 문제란거.
마치 지금하는 말씀은 정전되면 전자기기를 사용하지 못하니깐 전자기기를 사용하지 말라는 말 같이 들립니다. 안좋은 상황을 고려해서 대안을 마련해두는게 좋다고 생각합니다만 의존적인 서비스 자체는 그만큼 효율성과 가성비가 좋은 서비스인데 그걸 사용하는걸 문제삼는건 잘못되어 보입니다.
그 전제를 무시해버리면 뒤에 의존 리스크같은 원론적인 말씀을 하셔도 많은 부분이 뭉뚱그려지는거밖엔 안됩니다.
그냥 같은 사건을 두고 좋은 말씀 하시려는건 알겠는데 비중있게 다루신 영역이 저랑 약간 다른 부분 같습니다. 다른 클라우드 운영 기업들도 이런 접근해버리면 말씀하시는 취지를 넘어 오해되는 정보량이 너무 커요.
제가 말씀드린 것들을 일단 상관없다고 하시는데. 글쎄요.
구글 말고도 타 기업도 빅데이터 학습기반 AI로 일람 해버리고 그게 당연시 되어버리면 결국 말씀하시는 그 심각성 비중의 변화에도 영향이 없다고 할 수 있을까요.
애초에 구글도 기존 하던데로 해시값 대조였으면 본문 같은 사례는 없었습니다.
이건 애플 실드가 아니예요. 구글 AI판단 미스와 대처는 더 시사하는 바가 많고. 다른 빅테크들과도 똑같이 적용됩니다.
그리고 애플도 언젠가 비슷한 잘못을 할 수 도 있겠죠. 반 농담이지만 지금은 정책도 정책인데 그렇게 할 기술력도 안되는…
"그나마 최선은 한 바구니에 모든 달걀을 담지 않는 거 뿐이겠죠." => 이 쓰레드에서 제가 단 첫 댓댓글인데, 이게 계속 제가 주장하는 겁니다. 쓰지 말라는 게 아니라 한 기업에 대한 의존성을 크게 높이지 말라는 거죠.
"차라리 이메일은 구글 사진은 아이클라우드를 쓰는 게 낫다고 생각을 하고요." => 이건 제가 이 쓰레드에서 두번째로 단 댓글입니다. 제가 제 댓댓글을 읽어 보고 있는데 대체 어디서 어떤 제품도 나중에 변경될 수 있으니 그 것도 안되니까 대안이 안된다고 읽으셨는지 모르겠네요.
난방, 취사도 전기로 통일하고 싶단 생각이 들 때는 정전의 위험성을 상기하세요, 란 말은 정전되면 어차피 전기기구가 쓸모 없어지니 그런 거 쓰지 마세요가 아닙니다.
요점은 저 사건과 의존성 문제 보다 기업 서비스의 문제점과 백업의 안정장치의 문제고 개인의 입장에서는 서비스의 상태를 고려해서 의존성 기업을 선택하는 것도 좋은 대안 방법이 맞다는 점입니다.
기업의 서비스 문제는 법적인 부분이 주 안점이고 고객이 타 서비스로 옴기는게 부가적인 보완책이며 의존성의 문제는 백업이나 보조장비를 추가하게 방법이 됩니다.
즉 의존성을 피한다고 해결될 문제가 아니라는 점입니다.
만약 저분이 사진만 구글 서비스를 이용했다고 했을때 사진을 모두 잃어버리고 다른 서비스는 되니깐 괜찮다고 생각하지 않을꺼라 봅니다.
오히려 다른 의존성을 선택하는게 그 문제 해결에 더 도움되는 행위일껍니다. 사건이 터저도 유저들이 계속 사용해주면 그것보다 기업에서 좋은 상황은 없고 개선할 이유도 없어지니깐요.
그러니 지금 주장하시는 내용도 구글만 그런게 아니고 타 기업도 다 같으니 위험하다는 말씀 아닙니까. 그럼결국 타기업에서도 제재를 당할 수 있다는거고 그럼 결국 모든 것을 잃게 되는거 아닌가요. 한번이 잃는거랑 순차적으로 잃는거랑 그렇기 큰차이 난다고 보이지 않습니다. 순차적으로 잃는게 대안이 될 수도 없다고 보고요.
생강에일님의 대안이 근본적인 해결책이 아니라는 것을 모르는 사람이 있나요? 생강에릴님은 일반인이 할 수 있는 훌륭한 차선책을 제시하셨는데, lseol님의 대안은 무엇인가요?
생강에일님의 대안처럼 빅태크 서비스를 못믿어서 분산 서비스 이용에 불편하기 사용하다가 정지당하면 다른 곳에 있는 데이터라도 감사하게 이용하는 것 보다 훨씬 일반인에게 어울리는 차선책이라고 봅니다.
그나저나 그 직원은 전세계인 성기를 맘대로 보고 다니겠군요. 알고리즘이 크기라도 잘못 판단한다면 말이죠.
평온하게 살다가 하루아침에 범죄자로 몰려서 쫓기는 신세가 되는 그런 ㄷㄷㄷ
일시정지중에 일어난 2차 피해에 대한 보상과 영구정지를 풀어주지 않는 것은 다른 일 아닌가요? 또한 구글에 보관한 개인데이타를 고의로 돌려주지 않는 것도 다른 일이죠.
고객센터와 소통할 방법이 전혀 없습니다. 어렵게 번호 찾아서 통화 해보니 ARS 음성만 나올뿐..
안드로이드폰 위주로 쓰다보니 구글에 몰빵중 이었는데 이후로는 분산중에 있습니다.
중국 욕할 필요가 없네..
구글포토 죄다 백업해놔야 할듯
저거 카톡도 마찬가지고 죄다 자동화/복붙답변/컨텍포인트 없애기로 그냥 창구를 통으로 없애 버려서 그냥 배째라 식으로 장사하죠 구글에 배운듯
삭제되고 경고 먹었네요 ㅡ.,ㅡ
구글 포토.. 마음이 걸립니다.
전 구글 workspace 쓰고있는데(커스텀 도메인), 사진은 일반 gmail.com 계정으로 사용하고 있어서 걱정되긴 합니다.
여기서 결론이 "애플을 써야지"라고 귀결된다면 굉장히 아쉽네요. 애플도 CSAM 관련한 논쟁이 많은데 워낙 기업 홍보에 뛰어난 회사라서 이걸 마치 사용자들의 개인정보 보호라는 관점에서 자신의 입장을 대변합니다. 하지만 제가 보기에 미국에서 아동 포르노 관련한 사진 스캔은 필요하다는 것입니다. 기업에서도 유포에 대한 책임이 있기 때문에 해야만 합니다. 쉽게 말해 봤다면 신고를 해야한다 그런 것이죠. (이게 또 구글이 맘대로 개인의 사진을 본다, 이메일을 검열한다라고 생각하시면 또 아닙니다. 체 같은게 있어서 여기에 걸렸냐 여부만 판단하는 것으로 "사진을 본다"는 것과는 다릅니다.)
과거에는 정확히 일치하는 사진만 잡았는데, 요즘은 인공지능 덕에 비슷한 사진을 유추해서 찾아냅니다. 그러니 실제로 이런 거짓 양성 문제가 빈번히 나올거에요. 그렇다고 이게 또 인공지능의 문제는 아니에요. 인공지능이 먼저 플래깅을 하지만 결국 사람이 최종 리뷰를 합니다. 구글의 이런 심사 과정에 문제가 있고 개선이 필요합니다. 그리고 충분히 예상하겠지만, 인터넷 이전에도 얼마든지 잘못된 행정절차에 대한 피해는 있어왔죠.
앞서 말했듯이 NYT는 구글/페북 같은 디지털 광고 회사와 직접적인 경쟁 관계라서 결코 중립적인 기사를 쓰지 않고, 그러한 이유로 이 글의 톤도 굉장히 부정적으로 썼네요. 특히 이런 기사의 특징은 한 사례만 매우 집중해서 부각해서 독자들의 감정적인 반응을 이끌어 냅니다. 아쉬울 따름입니다.
같은 csam도 기성 범죄물 해시 대조냐. 아니면 저런 경우냐를 구분짓는건 정보가 있다면 당연한거 같은데요.
애플이 논쟁 된 부분이 저 기술과 같아서가 아니죠.
저도 아동 범죄 관련은 강경하길 바라고 빅테크들의 의도를 꼬아 생가하진 않습니다.
적어도 오해가 풀렸으면 복구는 해줘야하는게ㅡ아닌지요.
(혹시나해서 적지만 그렇다고 제가 애플 사용을 권장하는건 아닙니다)
구글포토라면 그러려니 하는데 이메일이라면.. 이건 거의 사찰 아닌가요.
돌 사진, 아이들 목욕사진. 전부 다 검열 블록 위험??
해명 이메일에 답변도 없더군요.
웃긴건 프리미엄 월회비는 계속 받아가더군요
빅부라더는 이미 동작중이네요..
Do tge right thing.
보안성이 높다고 광고하지만 (실제인지도 모름) 타인이 저렇게 쉽게 볼 수 있다는 생각은 안 하더군요..
국가 기관이 오픈해 달라고 하면 저것이라고 오픈 안 될 까요?? (특히나 한국에서라면 더 ...)
구글이 융통성 없다고 비판할 수도 있습니다. 하지만 신문과 인터뷰 한 아동 보호 전문가는 구글의 정책에 찬사를 보낸다고 밝혔습니다. 앞으로 원격 의료가 보편화되면 이런 일은 더욱 더 벌어질 가능성이 크지만 의사의 지시라고 해도 아이들의 성기를 찍는 건 하지 말아야 한다고 충고했습니다. 의사들도 이런 사진 촬영의 위험성을 알지 못했을 거란 겁니다. 반드시 찍어야 한다면 클라우드에 업로드되지 않도록 하라고 조언했습니다.
...
의사의 지시를 따랐고 클라우드에 업로드되는 걸 인식하지 못했으니 부모가 잘못했네...요?
"아동포르노는 나빠" 라는걸 전제로 "그러니까 아동의 성기를 긴급한 상황이 있어도 찍으면 안돼!" 라고 해서 그런건데요. 그럼 현 상황에 대해 PC하지 않는건 "무조건 아동의 성기는 사진을 찍으면 안돼!"라는 소리를 하지 않는게 되겠죠. "아동 포르노는 나빠"가 잘못됐다는게 아니고요.
PC의 사전적인 의미를 찾아봐도 별 문제가 없는데요?
사진검열은 그렇다치고 그 이후 프로세스가 문제인데요
저도 계정문제가 있어 구글에접촉을 시도했지만 이메일외에 고객응대하는곳이 없더군요
돈은 엄청나게 벌면서 고객응대는 엉망입니다
전 사진은 NAS에도 저장하고 구글에도 저장합니다.
오늘 간만에 구글 드라이브도 백업 해놔야 겠네요.
애가 2살인가 3살일 때 불규칙하게 발진이 생겨 (신기하게 병원 갈 때면 괜찮아 지고 ..) 해서 전신 사진을 찍었고, 구글 포토와 자동 동기화로 백업 했는데, 어느순간 계정이 차단 되었더라구요. 하하하 ... 다행이 로컬에 사진이 있어서 다행 이었습니다만. ㅠㅠ
그런데 뭐 이게 저 한테는 중요하지 않았어요. ㅠㅠ 이 작은 아이 몸에서 주사기로 피를 2번 뽑더라구요. 알러지 검사를 위해.(feat. 신촌 연대세브란스) 그리고 알러지가 없다는 결과가 나왔는데도 최근에도 발진이 생겨서 미치겠더란 ... 다행이 지난 주 말 부터 괜찮아졌습니다. 여담입니다만, 꽈추 있는데 사진을 안찍을 수가 없는게 그 부위가 가장 심합니다. 피부가 약해서 그렇데요.
지금 사진은 나스 포토스테이션으로 백업하고 있지 말입니다 + 더이상 안드로이드폰을 사용하고 있지 않아서 ... 아이클라우드에 부분적으로만 백업되고 .. (용량 확장을 안해서 쿨럭 쿨럭) 다행이 구글 계정이 복수개라 그 계정은 지금 막힌 상태로 그대로 있고 지금은 다른 계정으로 사용하고 있지 말입니다.
https://namu.wiki/w/%EC%83%81%EC%84%9C%EC%A4%91%ED%95%99%EA%B5%90%20%EC%84%B1%EC%B6%94%ED%96%89%20%EC%9D%98%ED%98%B9%20%EA%B5%90%EC%82%AC%20%EC%9E%90%EC%82%B4%20%EC%82%AC%EA%B1%B4#s-3
갑자기 미더덕 생각도나고... 하하...
(농담입니다.ㅎㅎㅎ)
댓글링크
https://www.clien.net/service/board/park/17503900?c=true#137342262CLIEN
공감 2개
수면에 지는 꽃 () 님
레드글럽 (dreamtek) 님
공감링크
https://www.clien.net/service/popup/like/park/17503900?commentSn=137342262CLIEN
캡쳐링크
https://www.clien.net/service/board/park/17503900?c=true#137374095CLIEN
그나저나 사진을 다 보고 있단 얘긴가요?? 헐~
암튼 말씀하시는 부분은 저도 다 공감합니다. 감정이 선 전투 댓글은 절대 아니엇는데.
제 대댓글이 시간도 뺏고 기분도 상하게 해드린건 아니었나 사과드립니다.
좋은 하루 되시길 바랍니다.
이메일도 다음 이메일 정도만 쓰고, 정보 저장은 NAS에 하고 별도의 장소에 백업을 뜹니다.
니가 올린 자료는 내가 맘대로 올려서 내꺼로 할 수 있음
설령 두더라도 분산해놔야 합니다.
이런점에선 차라리 국내서비스가 나을수도 있겠단 생각도 듭니다. 법무팀에 내용증명이라도 보내고, 급하면 진짜 본사 로비가서 소리라도 지르면서 항의할수도 있잖아요. 구글이나 애플은 서울오피스에서 이런거 대응하는 기능이 거의 없다고 알고 있는지라... 급하면 샌프란 날아가야죠.
처벌받고 나오면, 또 똥 쌀 겁니다.
구글 전 임원이 내 앞에 무릎꿇고 잘못했다고 빌기 전까지는 구글은 나한테 범죄집단입니다.
경찰이 아니라고 판단하더라도 말이죠.
여기까진 매우 좋습니다.
문제는 그 이후의 대처죠
"오해였다, 무혐의이다."라고 밝혀진 경찰수사 결과를 받아든 시점에
모든 정지를 풀고 원상복구 시켰다면, 오히려 구글이 칭찬받았을지도 모르겠습니다만,
공권력의 수사결과를 무시하고 차단을 풀어주지 않는 것은
자기들이 공권력보다도 위에 있는 초법적 존재라고 생각하는 걸까요 ㄷㄷㄷ
지금 제 데스크탑에, 아직 정리하지 않아서
구글포토에 업로드하지 않은 사진들이 좀 쌓여 있는데
그중에는 아들내미 2~3살 때 목욕하는 걸 찍은 사진도 포함돼 있는데 말이죠;;;;
이거 업로드했다면 저도 진작에 차단당했을지도 모르겠네요 ㄷㄷㄷㄷㄷㄷㄷㄷ
지금이라도 알게 돼서 다행입니다.
지레 겁먹고 아들 태어나던 날 탯줄 자르는 사진(고추가 보이는)도 구글포토에서 삭제해야 하나
생각하고 있는 제 자신을 보니 심히 자괴감이 드는군요 ㅋㅋ