오픈AI, AI로 만든 이미지에 워터마크 붙인다

구글, 메타에 이어 오픈AI도 자사 인공지능(AI)으로 생성된 이미지에 특정 표시를 넣기로 했다. 

오픈AI는 7일(현지시간) 공식 홈페이지를 통해 자사 이미지 생성형 AI 도구인 '달리3'로 만든 이미지에 디지털 워터마크를 붙인다고 밝혔다. 

디지털 워터마크는 사진이나 동영상 등 각종 디지털 데이터에 저작권 정보를 비롯한 비밀 정보를 삽입하는 기술이다. 원본 출처와 정보 추적이 가능하다. 육안으로 디지털 워터마크를 확인할 수는 없다. 특정 기술을 통해서만 워터마크 부착 여부 확인이 가능하다.

오픈AI의 달리3로 그린 '디지털 워터마크 부착한 생성형 AI 이미지' (사진=오픈AI)

오픈AI 측은 '콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)' 형태의 워터마크를 부착한다고 했다. C2PA는 콘텐츠 출처와 정보 확인을 위한 개방형 기술 표준이다. 마이크로소프트를 비롯한 어도비, 인텔 등이 해당 기술 개발에 앞장서고 있다.

 

최근 미국에서 생성형 AI 기능을 악용한 사례가 나오고 있다. 이에 생성형 AI로 만든 이미지에 규제가 필요하다는 목소리가 커졌다. 올해 치러질 미국 대선과 관련한 딥페이크 영상부터 팝스타 테일러 스위프트의 음란 딥페이크 이미지까지 소셜미디어에 확산하고 있다. 오픈AI는 해당 분위기를 의식해 생성형 AI 콘텐츠 규제를 발표한 셈이다. 

오픈AI뿐 아니라 메타도 디지털 워터마크 부착을 추진하겠다고 나섰다. 자사 AI 도구 '메타 AI'를 사용해 만든 이미지뿐만 아니라 제3 도구로 만든 콘텐츠에 '이매진드 위드 AI' 모양의 워터마크를 붙이겠다고 밝혔다. 자사 소셜미디어 페이스북, 인스타그램, 스레드에 업로드된 생성 이미지에 우선 적용한다. 구글도 지난 1일 AI 챗봇 '바드'에 이미지 생성 기능을 추가하면서 딥마인드의 워터마크를 적용한다고 발표했다.

출처  : https://zdnet.co.kr/view/?no=20240208170926