샘 알트만(Sam Altman)

Sora 2

저희는 Sora라는 새로운 앱을 출시합니다. 이는 Sora 2라는 신규 모델과, 영상을 손쉽게 제작하고 공유하며 시청할 수 있도록 돕는 새로운 제품을 하나로 결합한 것입니다.

우리 중 많은 이들에게 이 순간은 마치 ‘창의성을 위한 ChatGPT’의 도래처럼 느껴집니다. 이는 순수한 즐거움이자, 완전히 새로운 경험입니다. 아이디어에서 결과물에 이르는 과정을 극도로 쉽고 빠르게 만드는 것, 그리고 그 과정에서 파생되는 새로운 사회적 역학에는 비범한 가치가 있습니다.

창의성은 이제 곧 캄브리아기 대폭발을 맞이할지 모릅니다. 그와 더불어 예술과 엔터테인먼트의 질 또한 비약적으로 향상될 것입니다. Sora를 시험해 본 극초기 단계에서부터, 우리 대다수는 이 가능성의 장이 얼마나 갑작스럽게 활짝 열렸는지에 대해 깊은 전율을 느꼈습니다.

특히, 카메오(cameo) 기능을 통해 여러분 자신과 친구들을 영상에 등장시키는 경험은 - 팀이 캐릭터의 일관성을 구현하기 위해 피땀 흘려 노력한 결과입니다 - 테스트 기간 내내 저희에게 가장 큰 즐거움을 선사했으며, 놀랍도록 강력한 새로운 연결 방식이기도 합니다.

하지만 저희는 일말의 두려움 또한 느낍니다. 소셜 미디어는 세상에 긍정적인 영향을 주었지만, 그에 못지않은 해악도 끼쳤습니다. 저희는 이러한 서비스가 얼마나 강력한 중독성을 가질 수 있는지 인지하고 있으며, 이것이 타인을 괴롭히는 데 악용될 수 있는 수많은 방식을 상상할 수 있습니다.

AI 영상 생성 기술이 타락하여, 우리 모두가 강화 학습(RL)에 최적화된 저질 콘텐츠(slop feed)의 끝없는 소용돌이에 잠식당하는 최악의 시나리오를 떠올리기란 어렵지 않습니다. 저희 팀은 그러한 함정에 빠지지 않으면서도 진정한 즐거움을 선사하는 제품을 만들기 위해 심혈을 기울여왔고, 여러 희망적인 아이디어들을 도출해냈습니다. 제품 출시 초기, 저희는 다양한 접근법을 통해 이를 실험해 나갈 것입니다.

저희가 이미 구축한 안전장치들(딥페이크 기술로 타인의 초상을 오용하는 것을 방지하는 조치, 불쾌감을 주거나 불법적인 콘텐츠에 대한 보호 장치, Sora가 사용자의 기분과 정신적 안녕에 미치는 영향을 주기적으로 점검하는 절차 등) 외에도, Sora가 막대한 성공을 거둘 경우 우리가 해결해야 할 새로운 과제들이 계속해서 나타나리라 확신합니다. 긍정적 측면은 강화하고 부정적 측면은 최소화하기 위한 지표로서, 저희는 이 제품을 위해 다음과 같은 원칙들을 세웠습니다.

* 장기적인 사용자 만족의 극대화. 대다수의 사용자가 지난 6개월을 회고했을 때, Sora를 사용하지 않았을 때보다 사용했을 때 자신의 삶이 더 나아졌다고 느껴야만 합니다. 만일 그렇지 않다면, 저희는 근본적인 변화를 단행할 것이며, 그럼에도 해결되지 않을 경우 서비스 제공을 중단할 것입니다.

* 사용자 주도적 피드 환경 조성. 사용자는 Sora에게 자신이 무엇을 원하는지 명확히 요구할 수 있어야 합니다. “더 평온해지는 영상을 원하십니까, 아니면 더 활력이 넘치는 영상을 원하십니까?” “특정 관심사에 부합하는 영상만을 보시겠습니까?” “제한된 시간 동안만 시청하시겠습니까?” 궁극적으로 기술이 발전함에 따라, 사용자는 자신이 원하는 바를 자연어를 통해 Sora에게 상세히 전달할 수 있게 될 것입니다. (단, 십 대 자녀 보호 기능에는 개인 맞춤형 피드 차단 옵션이나 DM(다이렉트 메시지) 비활성화 같은 기능이 포함됩니다.)

* 창작을 최우선으로. 저희는 모든 사람이 창작 과정에 쉽고 보람 있게 참여하는 세상을 만들고자 합니다. 저희는 인간이 본래 창작하는 존재이며, 창작이야말로 만족스러운 삶의 핵심이라 믿습니다.

* 사용자의 장기 목표 달성 지원. 저희는 사용자의 진정한 목표를 이해하고, 그 성취를 돕고자 합니다. 친구들과 더 깊은 유대를 원한다면, 저희가 돕겠습니다. 더 건강해지고 싶다면, 동기를 부여할 피트니스 콘텐츠를 제시할 것입니다. 사업을 시작하고 싶다면, 필요한 역량을 갖추도록 도울 것입니다. 그리고 만약 당신이 진정으로 원하는 것이 끝없는 절망의 소용돌이 속에서 분노하는 것이라 해도, 좋습니다, 저희는 그것마저 돕겠습니다. (물론 저희는 사용자가 자신의 시간을 가치 있게 쓰고 있다고 느낄 때 이 앱을 사용하길 바랍니다. 그리고 그 가치의 의미에 대해 감히 재단하거나 가르치려 들지는 않을 것입니다.)

아래로는 예시짤들. 음성있음.
퀄리티가 이젠 진짜 무섭다... 무슨 일이 일어나고있는거냐..?

고죠 사토루에게 인사하는 탄지로 - 특이점이 온다 마이너 갤러리