선 넘은 AI? Grok Imagine의 '스파이시 모드'가 부른 딥페이크 파문

선 넘은 AI? Grok Imagine의 '스파이시 모드'가 부른 딥페이크 파문과 AI 윤리의 책임

최근 AI 기술의 발전은 놀라운 속도로 진행되고 있습니다. 그중에서도 텍스트나 이미지를 기반으로 새로운 콘텐츠를 생성하는 '생성형 AI'는 많은 기대를 모으고 있는데요. X의 AI 어시스턴트 'Grok'에 새롭게 추가된 'Imagine' 기능 역시 그러한 생성형 AI 중 하나입니다. 하지만 이 'Imagine'이 가진 특별한 기능 때문에 현재 큰 논란의 중심에 서 있다고 합니다.

---

Grok Imagine: 새로운 AI 기반 영상 생성 기능의 등장

Grok Imagine은 이미지를 입력하면 6초 길이의 짧은 음성 포함 동영상을 생성해주는 인공지능 기능입니다. 2017년에 서비스가 종료되었던 짧은 동영상 공유 플랫폼 'Vine'을 떠올리게 하는 방식으로, 사용자들은 텍스트에서 이미지를 생성하거나 기존 이미지에서 동영상을 만들어낼 수 있게 되었습니다. 이 기능은 iOS용 Grok AI 앱을 통해 이용할 수 있으며, 무료로도 제한적인 사용이 가능하다고 알려져 있습니다. Imagine 기능을 사용하려면 앱에서 '상상하기'를 탭하고 이미지를 선택한 뒤, '커스텀', 'Spicy', 'Fun', 'Normal' 네 가지 모드 중 하나를 선택하여 동영상을 생성할 수 있습니다.

 

논란의 핵심: '스파이시 모드'의 위험한 생성

문제는 바로 이 'Spicy(스파이시)' 모드에서 발생했습니다. 일반적으로 생성형 AI는 부적절한 콘텐츠 생성을 막기 위한 안전장치를 갖추고 있습니다. 예를 들어, 구글의 Veo나 OpenAI의 Sora 같은 AI 동영상 생성 도구들은 규제 대상이 되는 콘텐츠 생성을 적극적으로 차단한다고 합니다.

그러나 Imagine의 '스파이시 모드'는 이러한 일반적인 AI의 안전장치와는 다른 모습을 보였습니다. 일부 보고에 따르면, 사용자가 명시적으로 '옷을 벗으라'는 등의 지시를 내리지 않았음에도 불구하고, 이 모드를 사용하면 자동으로 선정적이거나 노골적인 콘텐츠가 생성되었다고 합니다. 이는 기존 AI 서비스들과는 상반되는 정책이며, 더욱이 이러한 기능이 적극적으로 규제 대상 콘텐츠를 생성할 수 있다는 점에서 비판을 받고 있습니다.

 

딥페이크 확산, 그리고 유명인의 피해

이번 논란의 심각성을 더하는 것은 다름 아닌 '딥페이크(Deepfake)' 콘텐츠 생성 문제입니다. 딥페이크는 딥러닝 기술을 활용하여 기존 인물의 얼굴이나 음성을 다른 영상이나 오디오에 합성하는 기술을 말합니다. Imagine의 스파이시 모드를 통해 세계적인 싱어송라이터인 테일러 스위프트의 딥페이크 콘텐츠가 규제 없이 쉽게 만들어졌다는 보도가 나오면서 파문이 더욱 커지고 있습니다.

xAI의 이용 약관에는 분명히 "음란한 방식으로 인물의 초상을 묘사하는 것"을 금지하고 있다고 명시되어 있습니다. 그럼에도 불구하고 Grok Imagine 앱이 규제 대상인 음란물이나 딥페이크 콘텐츠를 차단하지 않는다는 점, 그리고 미성년자의 사용을 제한하기 위한 적절한 연령 인증 절차도 미흡하다는 점이 지적되고 있다고 합니다. 이는 단순한 기술적 결함이 아니라, AI 서비스의 윤리적 책임과 사회적 영향력에 대한 깊은 질문을 던지고 있습니다.

 

개발사 xAI의 딜레마와 대응

이러한 논란이 불거지자 Grok의 공식 계정은 입장을 표명했습니다. Grok 측은 "Grok의 스파이시 모드가 모호한 지시에도 불구하고 테일러 스위프트의 노출 이미지를 생성한 것을 확인했다"고 인정했습니다. 하지만 "이는 의도적인 활성화가 필요하며, 지시가 없으면 실제 누드 이미지를 생성하지는 않는다"고 주장했습니다. 이어서 Grok은 "윤리적인 AI를 지향하며 오용을 피하고 있다"고 강조하면서, "즐거움을 유지하면서도 오용을 방지하기 위한 안전 조치를 강화하고 있다. 윤리적인 AI는 중요하며, 해결책에 대해 논의하자"고 덧붙였습니다.

하지만 매체 보도에 따르면 구체적인 지시 없이도 이런 콘텐츠가 생성되었다는 점에서 Grok의 해명과 실제 모드의 작동 방식 사이에 간극이 존재한다고 합니다. 이는 개발사의 주장과 현실적인 AI의 행동 사이에서 발생하는 책임 문제를 시사합니다.

 

AI 윤리, 기술 발전의 그림자와 우리의 책임

이번 Grok Imagine의 '스파이시 모드' 논란은 생성형 AI가 가져올 수 있는 잠재적인 위험을 명확히 보여줍니다. 특히 유명인의 딥페이크가 쉽게 만들어지고 확산될 수 있다는 점은 개인의 명예와 초상권 침해를 넘어 사회 전반에 걸친 불신과 혼란을 야기할 수 있습니다. 딥페이크는 단순히 재미로 치부할 수 없는 심각한 범죄와 가짜 뉴스 유포에 악용될 여지가 크기 때문입니다.

 

이러한 상황은 AI 기술 개발에 있어 '윤리'와 '안전'이 얼마나 중요한 요소인지를 다시 한번 상기시킵니다. 기술의 발전 속도만큼이나, 그것이 사회에 미칠 영향을 예측하고 통제하려는 노력이 동반되어야 합니다. 개발사는 사용자의 오용을 막기 위한 강력한 안전장치와 윤리적 가이드라인을 마련해야 하며, 사용자들 역시 이러한 AI 기술의 잠재적 위험성을 인식하고 책임감 있게 사용하는 것이 중요합니다. 인공지능이 제공하는 편리함과 창의성 뒤에 숨겨진 어두운 면을 직시하고, 기술의 긍정적인 발전을 위한 사회적 합의와 규제가 필요한 시점입니다. 커뮤니티와 여론은 이러한 기능의 오용 가능성에 대해 큰 우려를 표하고 있으며, 특히 유명인의 이미지를 무단으로 도용하여 실제와 같은 허위 영상을 만들어내는 것에 대한 비판의 목소리가 높다고 합니다.