공개된 사진을 쓸 수 있다는 것과, 그 사진을 AI가 다시 활용해도 된다는 것은 같은 말이 아닙니다. 메타가 새 이미지 생성 기능을 출시 며칠 만에 중단한 일은 이 차이를 분명하게 드러냈습니다.
이번 사례는 단순한 기능 철회가 아닙니다. 공개 데이터와 AI의 관계를 어디서부터 다시 설계해야 하는지, 그리고 기본값이 사용자 신뢰에 어떤 영향을 주는지를 보여줍니다.
⏱ 6분 읽기 · AI · D.Flick Editorial
출시 직후 멈춘 이유
메타는 이번 주 초 Muse Image 모델의 일부로 새 기능을 선보였습니다. 이 기능은 Meta AI 챗봇에서 공개 인스타그램 계정을 참고해 AI 이미지를 만들 수 있게 했고, 스케치와 사진을 바탕으로 이미지를 편집하는 방식도 포함했습니다.
하지만 공개 인스타그램 사용자가 자동으로 포함되는 기본 설정이 논란이 됐습니다. 사용자가 직접 제외하지 않으면 자신의 사진이 AI 생성 이미지에 활용될 수 있다는 점이 문제로 지적됐고, 메타는 결국 기능을 더 이상 제공하지 않겠다고 밝혔습니다.
동의보다 앞선 기본값이 흔들린 신뢰
핵심은 기능의 유용함이 아니라 설정 방식이었습니다. 사용자가 명시적으로 허용하는 구조가 아니라 기본적으로 포함된 상태였다면, 공개 콘텐츠라도 AI 활용에 대한 기대와는 어긋날 수밖에 없습니다.
배우 한나 아인바인더는 인스타그램에서 이 기능이 기본적으로 켜져 있었다고 비판했고, SAG-AFTRA*도 회원과 이용자들에게 제외 설정을 권했습니다. 단체는 사람의 이미지를 다루는 시스템이라면 자동 참여보다 명확한 opt-in*이 필요하다고 봤습니다.
공개 데이터보다 먼저 봐야 할 것은 기본 설정
이번 일은 AI 도구가 얼마나 강력한가보다, 어떤 권한 구조 위에 놓였는지가 더 중요하다는 사실을 다시 확인시킵니다. 공개 상태의 콘텐츠를 쓴다는 명분만으로 사용자 기대까지 자동으로 따라오지는 않습니다.
제품을 보는 기준도 달라집니다. 기능이 무엇을 할 수 있는지보다, 그 기능이 기본값으로 누구를 포함하고 누구를 제외하는지, 그리고 사용자가 그 규칙을 얼마나 쉽게 이해하고 바꿀 수 있는지가 먼저 확인돼야 합니다.
AI 기능의 경쟁은 기술보다 신뢰에서 갈린다
메타는 이 기능이 창작 도구가 되기를 원했고, 공개 콘텐츠의 참고 여부도 사용자가 통제할 수 있게 하려 했다고 설명했습니다. 그러나 논란이 커지자 결국 물러섰습니다. SAG-AFTRA가 이를 책임 있는 결정으로 평가한 것도 같은 맥락입니다.
메타는 Muse Image 외에도 다른 AI 도구를 준비 중이며, 이 기술을 WhatsApp, Facebook, Messenger로 확장할 계획도 내비쳤습니다. 그래서 이번 중단은 한 기능의 종료보다 더 넓게 읽힙니다. 앞으로의 AI 서비스는 성능 경쟁만으로는 버티기 어렵고, 데이터 사용 방식에 대한 신뢰 설계가 함께 따라와야 합니다.
기본값은 제품의 태도다
이번 사례가 남긴 메시지는 분명합니다. AI 서비스에서 기본값은 단순한 설정이 아니라 제품이 사용자에게 어떤 태도를 취하는지 드러내는 장치입니다. 사용자가 이해하지 못한 채 포함되는 구조는 편리함보다 불신을 먼저 남깁니다.
앞으로 공개 데이터를 다루는 AI 기능을 볼 때는 “무엇을 만들 수 있나”보다 “무엇을 어떤 동의 구조로 쓰는가”를 함께 봐야 합니다. 그 기준이 바뀌지 않으면, 기술은 빨라져도 제품 신뢰는 따라오지 못합니다.
D.Flick Perspective
AI 제품의 다음 경쟁력은 더 많은 데이터를 쓰는 능력이 아니라, 어떤 데이터를 어떤 방식으로 써야 하는지 스스로 제어하는 능력에 있습니다. 사용자가 공개한 정보라도, 그 정보가 AI에 의해 재가공되는 순간에는 다른 책임 기준이 필요합니다.
그래서 이제 중요한 질문은 기능의 성능이 아닙니다. 우리가 만드는 제품은 사용자의 데이터와 콘텐츠를 어떤 기본값 위에 올려두고 있는가, 그 질문에 먼저 답할 수 있어야 합니다.
SAG-AFTRA: 미국 배우·미디어 종사자 노조
opt-in: 사용자가 명시적으로 동의해야만 기본 참여가 이루어지는 방식
ⓘ References
Meta removes Muse Image days after launch as use of public Instagram photos sparks row
ⓘ About D.Flick Editorial
이 콘텐츠는 D.Flick Editorial Team이 국내외 AI·UX·Product·Design 관련 기사, 공식 발표, 연구 자료를 바탕으로 작성했습니다. 단순한 뉴스 번역이나 요약이 아닌, 제품을 만드는 사람의 관점에서 여러 정보를 구조화하고 해석한 오리지널 에디토리얼 콘텐츠입니다. 일부 내용은 작성 시점의 공개 자료를 기반으로 하며, 이후 새로운 정보가 발표될 경우 내용이 변경될 수 있습니다. D.Flick는 복잡한 기술과 트렌드를, 제품을 만드는 사람의 언어로 구조화합니다.