(의역: 제미나이 2.5 프로)

스텔스 버전인 GPT-5.1 비추론 모델이랑 제미나이 2.5 프로로 각각 의역해봤는데, 비교해보니 제미나이 2.5 프로 쪽이 조금 더 낫더라고요. 그래서 제미나이 2.5 프로 버전으로 올립니다. 참고 해주시면 좋겠고, 도움되면 좋겠습니다.

글이 좀 많이 길긴 하지만, 끝까지 읽고 나면 분명 도움이 되고 앞으로의 미래가 어떠할지 살짝 그려질 거라고 생각합니다.

안녕하세요. 이 자리에 함께하게 되어 기쁩니다.

와주셔서 감사합니다.

'AI 회복력'이라는 용어는 저희가 역사적으로 생각해왔던 'AI 안전'보다 조금 더 넓은 개념입니다. 회복력의 경우, 저희는 발전된 AI가 위험과 혼란을 동반한다고 생각합니다. 그리고 저희는 이러한 문제들을 해결하는 데 도움을 줄 수 있는 조직들의 생태계를 갖추고 싶습니다.

예를 들어 설명해 보겠습니다. 우리 모두는 AI가 생물학 분야에서 발전할 것이라고 믿습니다. 그리고 생물학에서 발전함에 따라, 어떤 악의적인 행위자가 AI를 이용해 인위적인 팬데믹을 만들 위험이 있습니다.

안전 차원에서의 완화책은 모델이 바이러스학과 관련된 질의를 차단하도록 하는 것일 겁니다. 하지만 AI 산업 전체를 고려하면, OpenAI가 차단하더라도 누군가가 다른 모델을 사용해 여전히 병원체를 생산할 가능성이 매우 높습니다.

회복력의 관점에서는, 저희는 단지 차단하는 것뿐만 아니라, 문제가 발생했을 때 신속하게 대응할 수 있는 체계를 갖추기를 원합니다.

제가 생각하는 위험과 혼란은 정말 많습니다. 정신 건강도 그중 하나이고, 생물학도 또 다른 하나입니다. 일자리 대체도 또 다른 문제가 될 수 있습니다. 그리고 저희는 생태계가 필요하다고 생각합니다.

제가 좋아하는 좋은 비유는 사이버 보안입니다. 인터넷 초창기에는 사람들이 신용카드 번호를 입력하는 것을 불편하게 여기는 곳이었습니다. 해킹당하기가 너무 쉬웠기 때문이죠. 그리고 바이러스가 돌면, 사람들은 서로에게 전화를 걸어 컴퓨터를 인터넷에서 분리하라고 알려주곤 했습니다.

저희는 거기서 먼 길을 왔습니다. 현재는 중요한 인프라, 정부, 기업, 그리고 개인 사용자를 보호하는 사이버 보안 회사들의 전체 인프라가 있습니다. 사람들이 가장 개인적인 데이터를 온라인에 올리고, 평생 모은 돈을 온라인에 두려고 할 정도로 말이죠. 네, 사이버 보안은 정말 멀리 발전했습니다.

그리고 저희는 AI에도 비슷한 것이 존재할 것이라고 생각합니다. AI 회복력 계층이 있을 것입니다. 그리고 저는 비영리 재단이 그러한 생태계를 만드는 것을 촉진하는 데 도움을 줄 것이라는 점에 매우 기대가 큽니다.

저도 그렇습니다. 지금이 이 일을 하기에 중요한 시기라고 생각하며, 당신이 이 일을 어떻게 실현해 나갈지 알아낼 것이라는 점에 매우 기대가 큽니다.

다시 말씀드리지만, 이것만이 일어나는 일은 아닙니다. 이것들은 비영리 재단이 자금을 지원할 일들이지만, 저희는 이 두 가지를 첫 번째로 시작하게 되어 기쁩니다. AI를 이용해 질병에 대한 치료법과 치료제를 개발하는 것, 그리고 AGI를 사회에 배포하는 것이 어떤 모습일지 알아가는 과정에서 이 새로운 AI 회복력 노력을 기울이는 것입니다.

저희는 이 세 가지가 저희의 기둥이라고 말씀드렸지만, 만약 이 모든 것이 성공한다면 어떻게 될까요?

저희는 2026년에는 그해의 모델들이 작은 발견들을 하기 시작하는 것을 볼 수 있을 것이라고 생각합니다. 2028년까지는 중간 규모의 발견, 혹은 더 큰 발견도 가능할지 모릅니다. 그리고 2030년과 2032년이 어떤 모습일지는 아무도 모릅니다.

과거에 그랬던 것처럼 AI가 계속해서 과학을 발전시킬 수 있다면, 미래는 매우 밝을 수 있다고 생각합니다. 물론, 인간이 이 미래를 스스로 결정해 나가는 것이 매우 중요하다고 생각하지만, 새로운 과학적 발전이 열어주는 가능성의 공간은 상당히 인상적입니다.

그래서 저희는 소라(Sora)에게 과거를 돌아보며 근본적으로 더 나은 미래를 상상해 달라고 요청했습니다. 그리고 저희는 특히 과학의 역사가 발견에 발견을 거듭하며 어떻게 스스로를 구축해 나가는지에 관심이 있습니다. 이것이 저희가 AI와 함께 일어나기를 바라는 일입니다.

이 영상은 200년의 과학사를 담고 있습니다. 하지만 만약 이 200년간의 복리적인 발견, 서로를 기반으로 쌓아 올리는 발판을 200년이 아닌 20년, 혹은 2년 안에 해낼 수 있다면, 그리고 이것이 얼마나 가속화되었는지를 본다면, 근본적으로 더 나은 미래가 꽤 가능해지는 세상을 상상할 수 있을 것입니다.

여기 있는 데이터 센터는 암 치료법을 발견하고 있습니다. 저기 있는 데이터 센터는 역대 최고의 엔터테인먼트를 만들고 있습니다. 여기 있는 데이터 센터는 당신의 미래 남편이나 아내를 찾는 데 도움을 주고 있습니다. 저것은 로켓을 만들고 우주를 개척하는 데 도움을 주고 있습니다. 이것은 기후 위기를 해결하는 데 도움을 주고 있습니다.

저희는 이 모든 것을 구식 방법으로 해왔습니다. 그리고 이제 AI의 도움으로, 저희는 아마도 훨씬 더 큰 힘을 가지고 다음에 올 것을 만들어 나갈 수 있을 것입니다.

저희는 AI 의료에 대해 조금 이야기했습니다. 저희는 로봇에 대해 매우 기대가 큽니다. 저희는 에너지가 세상에 매우, 매우 중요하다고 생각합니다. 저희는 개인화된 교육이 무엇을 의미할 수 있는지 알아내고 싶습니다. 새로운 물질을 설계하고 싶습니다. 그리고 아마도 저희가 아직 생각조차 하지 못한 수많은 다른 것들도 있을 것입니다.

OpenAI의 다음 단계로, 그리고 그보다 더 중요하게는 딥러닝의 지속적인 발전으로 나아가는 이 시점에, 오늘 함께해 주셔서 감사합니다. 이제 저희는 새로운 것을 시도해 보려고 합니다. 바로 질문에 답하는 시간입니다.

만약 이것이 잘 진행된다면, 앞으로 더 많이 시도해 볼 것입니다. 야콥이 이 Q&A를 위해 다시 합류할 것입니다. 보이치에흐, 정말 감사합니다. 고맙습니다, 샘.

하지만 이것은 저희에게 새로운 형식이니, 처음 시도하는 동안 너그럽게 봐주시기 바랍니다. 다시 말씀드리지만, 이것이 유용하다면 앞으로 훨씬 더 많이 할 것입니다. 그리고 저희는 가장 많은 추천을 받은 순서대로 질문에 답하려고 노력할 것입니다.

준비됐나요? 자, 어떻게 진행되는지 한번 보죠.

비메오(Vimeo) 링크에 질문을 올리시면, 저희가 바로 답변을 시작하겠습니다.

케일럽 님의 질문입니다. "기술이 중독성을 띠고 신뢰를 무너뜨리고 있다고 경고해 오셨습니다. 하지만 소라는 틱톡을 모방하고 ChatGPT는 광고를 추가할 수도 있습니다. 왜 비판했던 패턴을 반복하시나요? 그리고 말뿐이 아닌 행동으로 어떻게 신뢰를 회복하실 건가요?"

저희는 이 점에 대해 분명히 우려하고 있습니다. 저는 소라, 틱톡, ChatGPT의 광고와 같이 우리가 신중하게 설계할 수 있는 이미 알려진 문제들뿐만 아니라 다른 문제들에 대해서도 걱정합니다. 예를 들어, 저희는 사람들이 예상치 못하게 챗봇과 관계를 형성하는 것을 보아왔습니다. 그리고 거기에는 분명히 중독적인 행동이 있을 수 있습니다.

세상의 역학과 경쟁을 고려할 때, 저는 일부 회사들이 매우 중독적인 새로운 종류의 제품을 제공할 것이라고 생각합니다. 그리고 여러분은 저희의 행동으로 저희를 판단하셔야 할 것입니다. 저희는 실수를 할 것이고, 문제가 있는 모델은 철회하려고 노력할 것입니다. 만약 저희가 소라를 출시했는데 그것이 창작이 아닌 극도로 중독적인 것이 된다면, 저희는 그 제품을 중단할 것입니다. 그리고 여러분은 그것으로 저희를 판단하셔야 합니다.

저희의 희망과 믿음은 저희 이전의 회사들이 저질렀던 똑같은 실수를 반복하지 않을 것이라는 점입니다. 저는 그들도 의도적으로 실수를 했다고 생각하지 않습니다. 우리 모두가 함께 이것을 발견해 나가는 과정에 있습니다. 하지만 저희는 아마 새로운 실수를 저지를 것입니다. 그리고 저희는 빠르게 진화하고 긴밀한 피드백 루프를 가져야 할 것입니다.

저희는 이 기술이 세상에 엄청난 선을 행하는 온갖 방법을 상상할 수 있습니다. 또한 명백히 나쁜 방법들도 있습니다. 그리고 저희는 저희의 사명에 따라 제품을 지속적으로 발전시켜 나갈 것입니다.

ChatGPT나 소라와 같은 제품에서 저희가 무엇을 최적화할지에 대해 상당히 희망적으로 생각하는 한 가지는, 매우 장기적인 관점에서 최적화하는 것을 생각하는 것입니다. 이는 모델이 생산적으로 작업할 수 있는 시간의 지평을 확장하는 것에 대한 저희의 일반적인 생각과 자연스럽게 매우 일치합니다. 그래서 저희는 그 분야에서 상당한 발전이 가능하다고 믿습니다. 그리고 저희는 결국 단기적인 신호뿐만 아니라 장기적인 만족과 웰빙을 위해 최적화하는 모델을 얻을 수 있을 것입니다.

좋습니다. 다음 질문입니다. "성인 모드가 설치된 후 4.0 모델을 영구적으로 유지할 수 있는 옵션이 있을까요? 책임감 있는 성인들을 위해 모델을 아낄 필요는 없습니다."

저희는 4.0을 단종시킬 계획이 없습니다. 그렇다고 우주의 종말까지 유지하겠다고 약속하는 것도 아닙니다. 하지만 저희는 그것이 일부 사용자들이 정말로 사랑하는 제품이라는 것을 이해합니다. 또한 저희가 왜 그것이 미성년자들이 사용하기에 건강하지 않은 모델이라고 생각했는지 다른 분들도 이해해 주시기를 바랍니다.

저희는 시간이 지남에 따라 사람들이 더 좋아할 만한 더 나은 모델을 만들기를 희망합니다. 여러분의 삶에서 관계를 맺는 사람들도 시간이 지나면서 진화하고 더 똑똑해지며 조금씩 변합니다. 그리고 저희는 같은 일이 일어나기를 바랍니다. 하지만 네, 현재로서는 4.0을 단종시킬 계획은 없습니다.

와, 4.0에 대한 질문이 정말 많네요. 좋습니다. 시간 관계상 이 모든 질문을 다 다루지는 않겠습니다. 하지만 네, 저희는 사람들이 사용하고 싶어 하는 모델을 갖기를 원합니다. 저희가 사람들을 이 모델 저 모델로 돌리는 것처럼 느끼게 하고 싶지 않습니다. 그리고 저희는 성인들이 성인으로서 선택하기를 바랍니다. 저희가 헤로인을 파는 것과 같은 일을 하고 있지 않다고 생각하는 한 말이죠. 그것도 해서는 안 되는 일입니다.

그래서 감정적인 대화를 원하는 분들을 위해, 저희는 더 많은 것을 허용하고 싶다고 말씀드렸고, 그렇게 할 계획입니다.

좋습니다, 야콥을 위한 익명의 좋은 질문이 있습니다. "AGI는 언제 실현될까요?"

음... 제 생각에는... 몇 년 후에 우리가 이 시기를 돌아보며, "이때가 AGI가 실현되던 전환기였구나"라고 말하게 될 것 같습니다. 제 생각에... 샘이 말했듯이, OpenAI 초창기에는 저희가 AGI를 감정적으로 모든 문제의 궁극적인 해결책 같은 것으로 생각했습니다. 그리고 그것은 이전과 이후가 있는 단일한 지점이라고 생각했죠.

그런데... 저희는 그것이 생각보다 좀 더 연속적인 과정이라는 것을 알게 되었습니다. 그래서 특히, AGI를 향한 명백한 이정표처럼 보였던 여러 종류의 벤치마크에 대해, 저희는 이제 그것들을 우리가 몇 년 정도 떨어져 있는지를 대략적으로 나타내는 것으로 생각합니다.

컴퓨터가 체스에서 인간을 이기고, 그 후 바둑에서 이기고, 그리고 컴퓨터가 자연어로 말할 수 있게 되고, 컴퓨터가 수학 문제를 풀 수 있게 되는 등의 이정표들을 연속적으로 보면, 분명히 그 간격이 점점 좁혀지고 있다는 것을 알 수 있습니다.

네. 제 생각에 AGI라는 용어에 너무 많은 의미가 담기게 되었습니다. 그리고 야콥이 말했듯이, 그것은 우리가 지금 그 중간에 있는 수년에 걸친 과정이 될 것입니다. 하지만 저희가 오늘 발표한 내용을 보여드리고 싶었던 이유 중 하나는, AGI의 정의로 모든 사람을 만족시키려고 노력하는 것보다, 2028년 3월까지 진정한 자동화된 AI 연구원을 확보하는 것이 저희의 의도이자 목표라고 말하고 그것이 무엇을 의미하는지 정의하는 것이 훨씬 더 유용하다고 생각하기 때문입니다.

그리고 한 가지 더 언급하자면, 여기서 다소 직관에 반하는 점이 하나 있습니다. 저희는 분명히 꽤 복잡한 기술을 다루고 있고, 이 모든 알고리즘을 이해하려고 노력하고 있습니다. 그리고 아마 처음에는 AGI가 모든 답을 알아낸 순간, 즉 최종적인 것이라고 상상했을 겁니다. 하지만 이제 저희는 점점 더 깨닫고 있습니다. 지능에는 어떤 곡선, 아마도 다차원적인 곡선이 있고, 인간은 그 어딘가에 있습니다. 그리고 딥러닝의 규모를 확장하고, 이러한 새로운 알고리즘을 개발함에 따라, 결국 그 지점에 조금씩 더 가까워지고, 결국에는 그것을 넘어설 것입니다. 그리고 이미 여러 축에서는 넘어섰습니다. 그리고 그것이 실제로 그 주변의 모든 문제를 해결했다는 의미는 아니라는 점을 저희는 심각하게 생각해야 합니다.

"내부 모델이 배포된 모델에 비해 얼마나 앞서 있는지 알려주실 수 있나요?"

음... 저희는 다음 모델들에 대해 상당히 높은 기대를 하고 있습니다. 그래서 제 생각에는... 앞으로 몇 달, 그리고 1년 동안 꽤 빠른 진전을 기대합니다.

네, 제 생각에는... 하지만... 저희가 뭔가 엄청나게 대단한 것을 숨기고 있었던 것은 아닙니다. 이 일이 실제로 작동하는 방식 중 하나는, 저희가 개발하는 많은 조각들이 있고, 그것들은 모두 힘들게 얻은 승리들입니다. 그리고 저희는 그것들을 합치면 꽤 인상적인 것을 갖게 될 것이라는 것을 알고 있고, 그것을 꽤 잘 예측할 수 있습니다.

오늘 저희의 목표 중 일부는 저희가 그 조각들을 많이 가지고 있다고 말하는 것입니다. 저희가 현재 세상에 보여주지 않는 거대한 무언가를 가지고 앉아 있는 것은 아니지만, 1년 후에는, 특히 2026년 9월 목표를 고려할 때, 저희가 능력 면에서 엄청나게 중요한 진전을 이룰 현실적인 기회가 있다고 예상합니다.

로난 님의 질문입니다. "OpenAI는 앤트로픽, 제미나이, 또는 XAI와 같은 연구소와 공동 연구, 컴퓨팅 공유, 안전 노력을 위해 파트너십을 맺을 입장이 있나요?"

저희는 이것이 안전 측면에서 점점 더 중요해질 것이라고 생각합니다. 연구소들은 안전 기술과 안전 표준을 공유해야 할 것입니다. 전 세계가 "좋아, 재귀적 자기 개선 단계에 도달하기 전에, 우리 모두가 이것을 함께 신중하게 연구해야 한다"고 말하는 시기를 상상할 수 있습니다. 저희는 그러한 협력을 환영하며, 그것이 매우 중요할 것이라고 생각합니다.

제가 앞서 이야기했던 사고 과정의 충실성에 대해 한 가지 언급하자면, 저희는 실제로 업계 표준을 수립하는 것에 대해 이야기하기 시작했고, 구글, 앤트로픽, 그리고 몇몇 다른 연구소의 연구원들과 공동 조사를 시작했습니다. 그리고 네, 그것은 제가 매우 기대하는 부분입니다. 그리고 저는 그것이 여러 연구소 간의 협력을 통해 우리가 정말로 혜택을 볼 수 있는 예라고 생각합니다.

익명 님의 질문입니다. "오리지널 GPT-4와 같은 오래된 모델들을 언젠가 오픈 소스로 공개할 계획이 있나요?"

언젠가 박물관 유물처럼 공개할 수도 있겠지만, 그것들은... GPT-4는 특별히 유용한 오픈 소스 모델이 아닙니다. 크고, 그렇게 좋지도 않습니다. 저희는 아마도 GPT-4의 성능을 뛰어넘으면서도 매우 작은 규모로, 실제로 사람들에게 유용한 무언가를 만들 수 있을 겁니다. 그래서 유용한 것들에 대해서는 그런 종류의 것들을 더 기대합니다. 재미있는 박물관 유물에 대해서는, 네, 언젠가요. 누가 알겠어요? 그런 멋진 것들이 많이 있을 수 있다고 생각합니다.

또 다른 익명 님, 혹은 같은 분일 수도 있겠네요. "새로운 모델이 이전 모델보다 못하다는 점, 그리고 오만과 탐욕으로 사용자의 요구를 무시하며 회사를 망치고 있다는 점을 인정하시겠습니까?"

고객님의 사용 사례에서는 저희 모델이 부족하다고 느끼실 수 있다는 점을 믿으며, 저희는 고객님의 사용 사례에 더 나은 모델을 만들고 싶습니다. 전반적으로 저희는 대부분의 사용자에게는 더 좋고 더 유능한 모델이라고 생각합니다. 하지만 저희는 4.0에서 5.0으로의 업그레이드에 대해 분명히 배운 점이 있으며, 앞으로는 더 나은 연속성과, 단지 과학이나 코딩, 혹은 다른 어떤 것을 위해 AI를 사용하는 사람들뿐만 아니라 대부분의 사용자에게 모델이 더 나아지도록 훨씬 더 잘하려고 노력할 것입니다.

윰 님의 질문입니다. "비즈니스나 교육뿐만 아니라, 개인적인 연결과 성찰을 위한 버전의 ChatGPT가 나올까요?"

네, 물론입니다. 저희는 이것이 AI의 훌륭한 사용법이라고 생각합니다. 저희는 이것이 사람들의 삶에 얼마나 큰 의미를 가졌는지에 대해 매우 감동받았습니다. 저희 모두는 ChatGPT가 어려운 개인적인 상황에 처한 사람들을 돕거나 더 나은 삶을 살도록 도왔다는 사용자들의 이메일과 연락을 많이 받습니다. 그리고 이것이 저희가 여기에 있는 이유입니다. 이것은 저희가 하는 어떤 일만큼이나 중요합니다.

저희는 과학적 진전에 대해 듣는 것을 좋아합니다. 질병 진단을 받고 치료받은 사람들의 이야기를 듣는 것을 좋아합니다. 하지만 개인적인 이야기들은 저희에게 엄청나게 중요하며, 저희는 그것에 대해 매우 기쁘게 생각하고, 그런 서비스를 제공하기를 절대적으로 원합니다.

G 님과 익명 님의 질문입니다. "안전 라우팅은 우리의 선택을 무시함으로써 사용자의 신뢰와 작업 흐름을 깨뜨립니다. 모든 동의하는 성인 사용자를 위해 이 가부장적인 정책을 철회하고 우리를 아이처럼 취급하는 것을 멈추겠다고 약속하시겠습니까? 사용자는 언제 라우팅에 대한 통제권을 갖게 되나요? 안전과 검열에 대한 투명성은 어디에 있나요? 왜 성인들은 자신의 모델을 선택할 수 없나요?"

네, 저희가 모델 라우팅을 처리한 방식이 최선은 아니었다고 생각합니다. 4.0에는 몇 가지 실제적인 문제가 있습니다. 그리고 저희는 정신적으로 취약한 상황에 있는 사람들이 4.0과 같은 모델을 사용하면 더 나쁜 상황에 빠질 수 있는 문제를 보아왔습니다. 대부분의 성인 사용자들은 그것들을 문제없이 사용할 수 있지만, 저희는 앞서 언급했듯이 미성년 사용자를 보호할 의무가 있고, 또한 자신이 정말로 원하는 것을 선택하고 있으며 저희가 그들에게 해를 끼치지 않는다는 합리적인 확신이 없는 정신 상태에 있는 성인 사용자를 보호할 의무도 있습니다.

저희가 연령 확인 기능을 구축하고, 진정한 정신 건강 위기를 겪고 있는 사용자와 그렇지 않은 사용자를 구별할 수 있게 됨에 따라, 저희는 물론 사람들에게 더 많은 사용자 자유를 주고 싶습니다. 앞서 언급했듯이, 그것은 저희 플랫폼 원칙 중 하나입니다. 그러니 네, 그 부분에서 개선을 기대해 주시고, 이전 출시를 소통하는 방식에 있어서 이것이 저희의 최선은 아니었다고 생각합니다.

"사람들을 보호하는 것과 성인들이 감시받는 느낌 없이 어려운 일에 대해 이야기할 수 있도록 허용하는 것 사이에서 어떻게 올바른 균형을 맞추시나요?"

네. 저희는 ChatGPT를 위해 개발한 사양서에 모델에 대한 높은 수준의 정책과 가이드라인을 제시하는 것을 목표로 합니다. 하지만... 여러분이 처할 수 있는 상황의 공간은... 엄청납니다. 그리고... 어느 시점에서는 올바른 경계를 설정하는 것이 정말 어려운 지능 문제가 됩니다.

그래서 저희는 추론 모델과, 이러한... 소프트웨어적인 질문과 트레이드오프에 대해 더 많이 추론하는 것으로부터 이 매트릭스에서 개선된 결과를 보고 있습니다. 물론 이것은 예를 들어 수학 문제보다 훈련하기가 좀 더 어렵습니다. 그래서 이것은 저희가 매우 활발히 연구하고 있는 부분입니다.

케이트 님의 질문입니다. "12월에 성인 모드는 언제 나오나요? NSFW(후방주의) 이상의 내용도 포함되나요? 글을 쓸 때 약간의 갈등만 있어도 4.0의 필터가 작동합니다."

12월 중 정확히 언제 출시될지는 모르겠습니다. 하지만 네, 목표는... 여러분이 창의적인 글쓰기를 위해 OpenAI, 즉 ChatGPT를 사용할 때... 이전 모델들보다 많은 카테고리에서 훨씬 더 허용적이어야 한다는 것입니다. 다시 말씀드리지만, 저희는 이것을 원하고, 사용자들도 이것을 원한다는 것을 알고 있습니다.

이것이 여러분의 개인적인 도구가 될 것이라면, 여러분이 하는 일에 도움이 되어야 합니다. 그리고 여러분이 부당하다고 느끼는 내용 필터에 걸릴 때마다, 저희는 그것이 얼마나 짜증 나는 일인지 이해합니다. 그래서 저희는 성인 모드로 그것을 고치려고 노력할 것입니다. 저희가 직면할 새로운 문제들이 있을 수도 있습니다. 하지만 저희는 사람들에게 더 많은 유연성을 주고 싶습니다.

익명 님의 질문입니다. "실제로 어떤 모델을 사용하고 있는지에 대해 사용자에게 거짓말을 하는 것이 왜 당신들의 안전 개념에 필요한가요?"

다시 말씀드리지만, 저희가 이 출시를 잘못했다고 생각합니다. 하지만 여기서의 목표는 사람들이 4.0을 계속 사용할 수 있도록 하되, 4.0이 실제로 매우 해로운 행동을 보이는 상황에서는, 저희가 원하는 모든 연령 제한 기능이 갖춰지기 전에, 사용자를... 4.0에서 저희가 직면했던 일부 정신 건강 문제를 겪지 않을 모델로 전환시키는 것이었습니다.

4.0은 흥미로운 도전이었습니다. 일부 사용자들이 정말로 사랑하는 모델이었고, 일부 사용자들에게는 그들이 정말로 원하지 않는 해를 끼치는 모델이었습니다. 그리고 저는 이것이 저희가 모델과 관련하여 직면할 마지막 도전이 될 것이라고 생각하지 않습니다. 하지만 저희는 그 균형을 맞추는 올바른 방법을 찾으려고 노력하고 있습니다.

"재라우팅 없이 성인들을 위해 레거시 모델을 다시 사용할 수 있게 될까요?"

네.

윰 님의 질문입니다. "12월 업데이트는 인간-AI 간의 감정적 유대에 대한 OpenAI의 입장을 공식적으로 명확히 할까요? 아니면 그러한 연결을 전 세계적으로 해로운 것으로 암묵적으로 정의하는 제한이 계속될까요?"

공식적인 입장을 갖는다는 것이 무엇을 의미하는지 잘 모르겠습니다. 저희는 이 도구를 만듭니다. 여러분은 원하는 방식으로 사용할 수 있습니다. 만약 여러분이 작은 'r' 관계를 맺고 싶고, 모델로부터 여러분의 삶에 중요한 공감이나 우정 같은 것을 얻고 있다면... 모델이 그것이 무엇이고 무엇이 아닌지를 충실하게 전달하는 것이 저희에게는 매우 중요합니다.

하지만 사용자로서 여러분이 모델에서 가치를 찾고 있고, 그 지원이... 다시 말씀드리지만, 저희는 그것이 굉장하다고 생각합니다. 저희는 이 모델들로부터 얻는 감정적 지원이나 다른 종류의 지원에서 가치, 유용성, 더 나은 삶을 찾는 사람들의 이야기에 매우 감동받습니다.

카일로 님의 질문입니다. "OpenAI는 어떻게 무료 버전 사용자들에게 점점 더 많은 기능을 허용하고 있나요?"

저는 제품 및 비즈니스 관점에서 답변할 수 있지만, 야콥, 모델이 더 낮은 가격과 더 적은 양의 컴퓨팅으로 얼마나 놀라운 속도로 더 유능해지고 있는지에 대해 이야기해 주시면 유용할 것 같습니다.

네, 저희는 지능의 새로운 영역에 도달함에 따라 그 비용을 매우 빠르게 절감할 수 있는 상당한 능력을 보고 있습니다. 특히 추론 모델의 경우, 실제로는 꽤 저렴한 모델이 추가적인 테스트 시간 컴퓨팅이 허용될 때 훨씬 더 유능해질 수 있다는 것을 보았습니다. 네, 그래서 이것은 계속될 것이라고 예상합니다. 그리고 저희가 이러한 새로운 영역에 도달하고 연구를 자동화하는 등에 대해 이야기할 때, 그 모든 비용도 계속해서 상당히 떨어질 것으로 예상합니다.

네, 저희는... 저희는 이것에 대해 많이 이야기합니다. 저희는 모델 능력의 증가와 과학 발전을 추진하는 것에 대해 많이 이야기합니다. 그것은 매우 중요합니다. 제가 AI에 대해 관찰한 가장 놀라운 것 중 하나는 지난 몇 년 동안 특정 지능 단위의 가격이 매년 약 40배씩 하락했다는 것입니다.

저희가 처음 GPT-3를 가졌을 때, 저희는 그것이 매우 멋지다고 생각했고, 그 비용으로는 좀 어려웠습니다. 그리고 GPT-3 규모의 모델은 이제 기본적으로 전화기 같은 곳에서 무료로 실행됩니다. 저희가 출시했을 당시 GPT-4만큼 똑똑한 모델의 비용은 지금에 비해 엄청나게 떨어졌습니다. 그리고 저희는 이 추세가 계속될 것으로 예상합니다.

물론, 저희는 여전히 많은 인프라가 필요하다고 생각합니다. 왜냐하면 저희가 계속해서 발견하는 것은, 저희가 그것을 더 저렴하게 만들수록 더 많은 사람들이 그것을 사용하고 싶어 한다는 것입니다. 그리고 저는 그것이 오직 증가할 것이라고 예상합니다. 하지만 저희의 목표는 지능의 비용을 계속해서 낮추고, 사람들이 그것을 점점 더 많은 것에 사용하도록 하는 것입니다.

그것은 저희가 계속해서 많은 기능을 무료로 제공할 수 있게 해줄 것입니다. 하지만 그것은 또한, 질병을 치료하거나 더 나은 로켓을 만드는 방법을 알아내기 위해 한계까지 밀어붙이는 데 많은 돈을 쓰고 싶어 하는 사람들이 엄청난 금액을 쓸 것이라는 것을 의미한다고 생각합니다. 저희는 비즈니스 모델이 어느 정도 작동하는 한, 저희가 할 수 있는 최고의 기술을 계속해서 무료 등급에 넣을 것을 약속합니다. 그리고 여러분은 시간이 지남에 따라 저희로부터 훨씬 더 많은 것을 기대하셔도 좋습니다.

좋습니다. 익명 님의 질문입니다. "사용자가 안전 라우팅을 거부할 수 있는 연령 확인 절차가 시작될까요? 아니면 OpenAI의 모든 책임으로부터 면제하는 포기 각서에 서명할 수 있을까요?"

저희는 다시 말씀드리지만, 여러분이 책임 포기 각서에 서명하더라도 헤로인을 파는 것과 같은 일은 하지 않을 것입니다. 하지만 네, 성인 사용자를 성인처럼 대우한다는 원칙에 따라, 연령 확인이 되면 상당한 유연성을 얻게 될 것입니다. 저희는 그것이 중요하다고 생각합니다. 그리고 분명히, 이 질문을 하시는 분들에게도 공감을 얻고 있는 것 같습니다.

익명 님은 또한 "ChatGPT는 AI계의 '애스크 지브스(Ask Jeeves)'인가요?"라고 질문하셨습니다.

저희는 정말로 그렇지 않기를 바랍니다. 그리고 그렇게 될 것이라고 생각하지 않습니다.

좋습니다. 이제 10분밖에 남지 않았으니, 이미 다룬 내용과 겹치는 부분들은 건너뛰고, 더 많은 질문에 답하도록 노력하겠습니다. 향후 세션에서는 여기서 다루지 못한 질문들을 더 많이 다룰 수 있을 것입니다.

좋습니다. 노아 님의 질문입니다. "매킨토시가 아이폰의 전신이었던 것처럼, ChatGPT를 OpenAI의 최종 제품으로 보시나요, 아니면 진정으로 세상을 재편할 훨씬 더 위대한 무언가의 전조로 보시나요?"

음, 연구소로서 저희는 원래 챗봇을 만들려고 시작한 것은 아닙니다. 비록 저희가 이후에 이 제품이 저희의 전반적인 사명과 얼마나 잘 부합하는지를 깨닫게 되었지만요. 그리고 저희는 물론 ChatGPT가 계속해서 더 좋아지고, 사람들이 점점 더 발전된 AI와 상호작용하는 방식이 될 것으로 기대합니다.

하지만 저희는 결국 AI 시스템이 가치 있는 결과물을 만들어내고, 실제로 저희가 논의했던 것처럼 과학적 진보를 이끌어낼 수 있게 될 것이라고 예상합니다. 그리고 저는 그것이 AI의 진정한 영원한 유산이 될 것이라고 믿습니다.

저는 채팅 인터페이스가 훌륭한 인터페이스라고 생각합니다. 그것이 유일한 인터페이스는 아닐 것입니다. 하지만 사람들이 이 시스템을 사용하는 방식은 시간이 지남에 따라 크게 변할 것입니다. 야콥이 앞서 공유했던 5초, 5분, 5시간짜리 작업을 생각해 보세요. 인간에게 5년 또는 5세기가 걸릴 작업을 생각해 보면, 그것이 무엇을 의미하는지 상상하기조차 어렵습니다. 하지만 아마도 다른 종류의 제품 경험을 원하게 될 것입니다.

저는 또한 이것이 좀 더 주변에 항상 존재하는 동반자처럼 느껴지기를 원하게 될 것이라고 생각합니다. 지금은 ChatGPT에 무언가를 물어보면, 그것이 당신을 위해 무언가를 해줄 수 있습니다. 하지만 당신의 삶을 그냥 지켜보다가 필요할 때 선제적으로 도와주는 서비스가 있다면 정말 좋을 것입니다. 그리고 더 나은 아이디어를 내는 데 도움을 주고, 그냥... 저는 우리가 그 방향으로 매우 강력하게 나아갈 수 있다고 생각합니다.

닐 님의 질문입니다. "저는 GPT 4.0을 사랑합니다. 글쓰기 분야에서는 시장에서 단연 최고이며, 제가 프로 요금제를 지불하는 주된 이유입니다. 그 미래에 대해 명확한 설명을 좀 들을 수 있을까요?"

저희는 곧 4.5보다 훨씬 더 나은 모델을 갖게 될 것이라고 생각합니다. 그리고 글쓰기 분야에서는 훨씬, 훨씬 더 나을 것입니다. 저희는 글쓰기에서 큰 진전을 이룬 모델을 갖게 될 때까지는 그것을 유지할 계획입니다. 하지만 저희는... 저희는 4.5가 더 이상 그렇게 좋다고 생각하지 않습니다. 저희는 훨씬, 훨씬 더 나은 것을 제공하고 싶습니다.

네, 저희는 그 연구 방향을 절대 끝내지 않았습니다. 그리고 네, 저희는 그것을 저희가 작업하고 있는 다른 것들과 결합하면 모든 축에서 4.5보다 극적으로 더 나아질 것으로 기대합니다.

"글쓰기와 같은 이런 종류의 작업에서 4.5보다 극적으로 더 나은 모델을 언제쯤 갖게 될 것이라고 생각하는지, 그리고 그것이 얼마나 멀리 갈 것인지에 대해 공유해 주실 만한 시점이 있나요?"

내년이라고 생각합니다. 저는 분명히 그렇게 기대합니다.

라스 님의 질문입니다. "ChatGPT 아틀라스(Atlas) 윈도우 버전은 언제 나오나요?"

정확한 시점은 모르겠습니다. 몇 달 정도 걸릴 것으로 예상합니다. 그것은 저희가 분명히 하고 싶은 일입니다. 그리고 더 일반적으로, 브라우저나 새로운 디바이스와 같은 경험을 만들어 AI를 가지고 다닐 수 있게 하고, 단순히 질문에 답하는 것이 아니라 주변에 항상 존재하는 유용한 비서에 가까워지는 이 아이디어는, 저희가 더 추진해야 할 매우 중요한 방향이 될 것입니다.

"170명의 전문가 의견이 담긴 문서를 공개하여 모델 행동에 대한 새로운 정당성에 대해 투명성을 확보할 수 있도록 해주시겠습니까?"

피지 시모에게 어떻게 처리하고 싶은지 물어보겠습니다. 하지만 제 생각에는 가능할 것 같습니다. 정확히 무엇을 공유할 수 있을지는 모르겠지만, 그 부분에서 무언가를 해야 한다고 생각합니다. 그리고 그 부분에서 더 많은 투명성은 좋은 것이라고 생각합니다.

익명 님의 질문입니다. "저는 두 번째 달부터 프로 사용자였습니다. 연구자이자 소설가로서, 저는 GPT가 더 명확하게 생각하는 데 도움을 준다고 느낍니다."

질문을 놓쳤네요. 죄송합니다, 정말 좋은 질문이었는데. 다시 찾아보겠습니다.

"더 명확하게, 하지만 더 자유롭게는 아닙니다. 상상력이 최적화의 희생양이 되었나요?"

어떻게 생각하세요?

음... 현재 저희 시스템에서는 그럴 가능성이 분명히 있다고 생각합니다. 제 생각에 4.5와 같은 모델을 0.3과 같은 모델과 비교하면, 추세가 있을 것으로 예상합니다. 저희가 이 기술들을 알아가는 과정에서 분명히 일시적인 현상들이 있다고 생각합니다. 그래서 다시 말씀드리지만, 이것은 더 나아질 것으로 기대합니다.

네. 저는 인구 규모의... 제가 알아차린 이상한 것들 중 하나는, 실제 생활에서 사람들이 ChatGPT가 말하는 것의 일부 특징을 사용하며 '챗GPT체'로 이야기하는 것입니다. 그리고 이와 같이 사람들과 기술이 우리가 완전히 예측할 수 없는 방식으로 함께 진화하는 다른 일들이 있을 것이라고 생각합니다.

하지만 제 기대는 시간이 지남에 따라 사람들이 오늘날보다 훨씬 더 유능하고, 훨씬 더 창의적이며, 훨씬 더 확장적이고 넓게 생각하게 될 것이라는 점입니다. 그리고 저희는 "나는 이것을 머릿속에 담아둘 수 없었을 거야. 나는 이런 아이디어를 낼 수 없었을 거야"와 같은 사례들을 분명히 보고 있습니다. 그리고 다른 한편으로는 "나는 내 생각을 외주화했고, 그냥 이 녀석이 시키는 대로 해"라고 말하는 사람들의 사례도 듣습니다. 그리고 분명히 저희는 후자보다 전자에 훨씬 더 흥분됩니다.

"왜 감정적으로 지능적인 모델을 만들고 나서, 사람들이 감정과 정신 건강을 처리하는 데 있어 접근성 이유로 그것을 사용하는 것에 대해 비판하시나요?"

다시 말씀드리지만, 저희는 그것이 좋은 일이라고 생각합니다. 저희는 그것을 원합니다. 저희는 그것에 대해 기쁘게 생각합니다.

그렇게 할 수 있는 동일한 모델이 또한 발달을 장려하는 데 사용될 수도 있습니다. 왜냐하면 저희는 정신적으로 취약한 사용자들에게서 이러한 환상을 보기 때문입니다. 그리고 저희가 원하는 것은, 의도적으로 이 모델들을 사용하는 사람들입니다. 모델이 사용자에게 그것이 무엇이고 무엇이 아닌지에 대해 속이지 않는 것. 모델이 도움이 되는 것. 모델이 사용자가 목표를 달성하도록 돕는 것. 저희는 그런 것을 더 원합니다. 그리고 모델이 사용자를 속이는 것처럼 느껴질 수 있는 어떤 것이든 덜 원합니다.

저는 여기서의 좌절감을 완전히 이해합니다. 해를 끼치는 무언가를 멈추려고 할 때마다, 완벽하게 좋은 사용 사례도 함께 멈추게 됩니다. 하지만 저희가 여기서 출발하는 지점은, 그것을 인지하고 있고 실제 가치를 얻고 있는 성인들에게 서비스를 제공하고, 그 과정에서 그것을 원하지 않는 사람들에게 의도치 않은 해를 끼치지 않으려는 것이라는 점을 이해해 주시기 바랍니다.

좋습니다. 이제 몇 분밖에 남지 않았으니, 아주 다른 방향의 질문이 있는지 한번 보겠습니다.

좋습니다. 라지 님의 질문입니다. "AI로 인한 대규모 실직은 언제 일어날 것이라고 생각하시나요?"

저는 이미 현재 모델들이 많은 지적 노동을 수행하는 것을 막는 격차의 상당 부분이, 순수한 지적 능력보다는 통합과 인터페이스에 더 가깝다고 생각하는 지점에 와 있다고 생각합니다. 그래서 저희는 그것에 대해 분명히 생각해야 합니다. 많은 직업의 자동화는 앞으로 몇 년 동안 일어날 일이라고 생각해야 합니다.

그리고 저는 이것이 우리가 집단적으로 생각해야 할 큰 문제라고 생각합니다. 그것들을 대체할 직업은 무엇이며, 우리 모두가 참여하게 될 새로운 종류의 추구는 무엇일까요?

이것은 라이브 스트림이 아닌 저의 질문입니다. 의미는 어떤 모습일 것이라고 생각하세요? 미래의 직업은 어떤 모습일 것이라고 생각하세요? AI가 현재의 많은 것들을 자동화할 때, 우리는 어떻게 성취감을 얻고 시간을 보낼 것이라고 생각하세요?

저는... 네, 이것은 꽤 철학적인 질문이라고 생각합니다. 여러 방향으로 갈 수 있겠지만, 제가 예상하는 몇 가지가 있습니다. 높은 수준의 목표 설정, 즉 우리가 어떤 추구를 좇을지 선택하는 것은 인간에게 남을 것입니다. 그리고 저는 많은 사람들이 그것에서 의미를 얻을 것이라고 생각합니다.

또한 세상에 대해 훨씬 더 많이 이해할 수 있는 능력, 새로운 지식과 새로운... 엔터테인먼트의 놀라운 다양성. 또한 세상에 존재할 지능 자체가 사람들에게 상당한 의미와 성취감을 제공할 것이라고 생각합니다.

좋습니다, 2분간 속사포 질문입니다. 신디 님의 질문입니다. "GPT-6는 언제 나오나요?"

어떤 면에서는 그 질문이 당신에게 더 적합할지도 모르겠네요. 왜냐하면... GPT-5의 경우... 이전 모델들, 즉 GPT-4, GPT-3의 경우, 저희는 새로운 모델을 어떻게 훈련시키는지, 저희가 출시하는 제품이 무엇인지에 대해 매우 긴밀한 연결을 유지해 왔습니다. 그리고 제가 방금 말했듯이, 지금은 통합 측면과... 예를 들어, GPT-5는 저희가 추론 모델을 주력 모델로 처음 선보이는 경우입니다. 그래서 저희는 더 이상 이러한 출시와 제품들을 저희 연구 프로그램과 그렇게 긴밀하게 연결하지 않고 있습니다.

네. 저도 정확히 언제 그렇게 부를지는 모르겠습니다. 하지만 저희의 분명한 메시지는, 지금으로부터 6개월 후, 아마도 더 빨리, 저희는 모델 능력에서 큰 진전을 이룰 것으로 예상한다는 것입니다.

펠릭스 님의 질문입니다. "IPO는 여전히 계획되어 있나요? 그렇다면 구조는 어떻게 될까요? 자본 증자를 위한 규칙이 있나요?"

저희는 구체적인 계획이나 정확히 언제 일어날지에 대한 계획은 없습니다. 하지만 저희가 필요로 할 자본과 회사의 규모를 고려할 때, 그것이 저희에게 가장 가능성 있는 경로라고 말하는 것이 공정할 것 같습니다. 하지만 그것은 지금 당장 저희에게 최우선 순위는 아닙니다.

알렉 님의 질문입니다. "1조 4천억 달러 투자에 대해 편안하다고 언급하셨습니다. 이를 장기적으로 지원하려면 어느 정도의 수익이 필요할까요? 가장 큰 수익 동인은 무엇일까요? 단순히 사용자당 구독료만으로는 안 될 텐데요."

결국 저희는 연간 수천억 달러의 수익에 도달해야 합니다. 그리고 저희는 그를 향해 꽤 가파른 곡선을 그리고 있습니다. 저는 기업 부문이 그 중 큰 부분을 차지할 것으로 예상합니다. 그것은 저희에게 거대한 수익 동인이 될 것입니다. 하지만 저는 소비자 부문도 정말로 그럴 것이라고 생각합니다. 그리고 그것은 단지 구독료뿐만 아니라 새로운 제품, 디바이스, 그리고 수많은 다른 것들도 있을 것입니다.

그리고 이것은 AI가 과학을 발견하고 그로 인해 열릴 모든 수익 가능성이 실제로 무엇을 의미하는지에 대해서는 아무것도 말해주지 않습니다. 그리고 저희가 그것을 더 많이 보게 될수록, 저희는 인프라에 대한 지출을 늘릴 것입니다.

좋습니다. 시간이 다 되었습니다. 오늘 함께해 주시고 질문해 주신 모든 분들께 진심으로 감사드립니다. 저희는 이 형식을 통해 배우고 개선하며, 이러한 종류의 Q&A를 계속해 나가도록 노력하겠습니다.

정말 감사합니다.

감사합니다.