제미나이 앱에 AI 이미지 검증 기능을 도입합니다

제미나이 앱에서 바로 이미지가 구글 AI로 생성되거나 편집되었는지 확인할 수 있는 기능을 도입하여, 콘텐츠 출처에 대한 투명성을 강화합니다.

구글은 이용자가 온라인에서 접하는 정보의 맥락을 더 잘 이해하도록 돕기 위해 오랫동안 다양한 방법을 연구해 왔습니다. 생성형 AI 미디어가 점점 더 보편화되고 품질 또한 정교해짐에 따라, 구글은 이용자가 접하는 콘텐츠가 AI로 생성되었거나 편집되었는지, 보다 쉽게 파악할 수 있는 툴을 제공하고자 합니다.

오늘부터 구글은 AI로 생성된 콘텐츠에 사람의 눈으로는 식별 불가능한 신호를 삽입하는 디지털 워터마킹 기술인 신스ID(SynthID)를 활용해, 누구나 제미나이 앱에서 이미지가 구글 AI로 생성되거나 편집되었는지 간편하게 확인할 수 있도록 지원합니다.

구글은 2023년 신스ID를 처음 공개했습니다. 그 이후 200억 개 이상의 생성형 AI 콘텐츠에 신스ID 워터마크가 적용하였습니다. 또한 구글은 저널리스트와 미디어 전문가들과 함께 검증 포털인 ‘신스ID 디텍터(SynthID Detector)’도 테스트해 왔습니다.

작동 방식

특정 이미지가 구글 AI로 제작되었는지 확인하고 싶다면, 해당 이미지를 제미나이 앱에 업로드한 후 “이 이미지 구글 AI로 만든 거야?” 또는 “이거 AI가 생성한 거야?”와 같이 질문해 보세요.

그러면 제미나이가 신스ID 워터마크를 확인하고 자체 추론 능력을 활용해 결과를 알려 줍니다. 이를 통해 이용자는 온라인에서 접하는 콘텐츠에 대해 보다 정확한 맥락을 파악할 수 있습니다.

향후 계획

이번 기능 출시는 구글 검색에서 이미지에 대한 맥락 정보를 제공해 온 노력과 더불어, 구글 딥마인드의 ‘백스토리(Backstory)’와 같은 새로운 연구 혁신을 바탕으로 이루어졌습니다. 구글은 앞으로도 이용자가 온라인 콘텐츠의 출처와 이력을 보다 쉽게 파악할 수 있도록 다양한 방식을 지속적으로 개발해 나갈 계획입니다. 조만간 이미지뿐만 아니라 비디오, 오디오 등 다양한 형식으로 신스ID 검증 대상을 확대하고, 구글 검색을 포함한 더 많은 서비스로 적용 범위를 넓힐 예정입니다.

구글은 자체 툴 개발 외에도 업계 전체의 투명성 강화를 위해 C2PA(Coalition for Content Provenance and Authenticity)의 운영위원회 멤버로 참여하여 업계 파트너들과 협력하고 있습니다. 이를 통해 유튜브, 구글 검색, 픽셀(Pixel), 구글 포토 등 구글의 제품 생태계 전반에 걸쳐 출처 검증 기술을 발전시키기 위해 노력하고 있습니다.

이러한 노력의 일환으로, 오늘부터 제미나이 앱, 버텍스 AI(Vertex AI), 구글 애즈(Google Ads), 플로우(Flow)에서 나노 바나나 프로(제미나이 3 프로 이미지) 모델로 생성된 이미지에는 C2PA 메타데이터가 포함됩니다. 이를 통해 이미지 생성과정에 대한 투명성이 더욱 강화됩니다. 구글은 향후 몇 달 내에 이 기능을 더 많은 제품과 서비스로 확대 적용할 계획입니다.

또한 구글은 점진적으로 검증 방식을 확장해 C2PA의 콘텐츠 자격 증명(Content Credentials)도 지원할 예정입니다. 이를 통해 이용자는 구글 생태계 외부의 모델 및 제품으로 생성된 콘텐츠라도 원본 출처를 확인할 수 있습니다.

이러한 모든 노력은 구글이 추구하는 ‘대담하고 책임감 있는 AI’의 핵심입니다. 구글은 앞으로도 AI 투명성의 미래를 만들어가는 데 계속 기여해 나갈 것입니다.