· 톺아보기

OpenAI 나비에 스토크 방정식 해법의 이면

dsl · · 수정

조회 2,606 · 공감 0 · 댓글 17

OpenAI가 연구결과를 도용했을 수도 있다는군요. 


뭔가 저작권 문제가 있나봅니다. 


인용된 대화가 사실이라면 널리 알려져야 할 일임. OpenAI가 나중에 발표하면 이들이 Clay Prize를 받을 자격이 있고 “문제에 가장 가까이 간 인간들”이라고 해주겠다는 제안도 있었다고 함.
Tristan이 제안을 거부하고 경위를 공개하겠다고 하자 “왜 자기 경력을 망치려 하느냐?”는 답이 돌아왔으며, 이유를 되묻자 “내가 친절하게 굴기를 원하지 않는다면, 그럴 필요도 없다”고 했다는 대목은 뭐라 해야 할지 모르겠음.


선택지가 최첨단 수학에서 초인적 모델을 확보했거나 연구 데이터를 훔쳤거나라는 식인 것이 기막힘. Tristan이 약관에서 어느 항목에 체크했는지는 대중에게 별로 중요하지 않을 것임. 시점까지 고려하면, OpenAI가 부도덕하고 대기업의 데이터 격리도 홍보만큼 철저하지 않다는 쪽을 쉽게 믿을 것임. 훨씬 사소한 이유로 전 연인의 정보를 들여다본 직원들도 있었음.


자세한 건 출처 참고하세요. 


https://news.hada.io/topic?id=33379

출처 : https://news.hada.io/topic?id=33379

댓글 17

  1. 어머 ·
    이로서 둠즈데이가 일년 미뤄졌습니다
  2. 호러아니 ·
    @어머님 헐 안돼요. 예매해놨습니다.
  3. HL1MTR · · 공감 1
    유체역학을 전공했는데도 무슨 얘기를 하는 건지 모르겠다.
    나비에르 스톡스 방정식 일반해를 구했으면 수학 난제를 하나 해결하는 건데...
  4. 그시절그때 ·
    OpenAI가 제공받은 데이터나 자료를 기반으로 결과를 도출한건지 아닌지 증명도 입증도 불가능할 뿐만 아니라,

    애당초 그걸 따지는 것부터가 지금 시대에 의미가 있기나 한가 싶습니다.

    인공지능들은 지금도 내가 입력한, 내가 개발한, 내가 만든 노하우, 도메인지식을 스폰지처럼 흡수하고 있거든요.
  5. dsl ·
    @그시절그때님

    네, 그렇다면 이제 최첨단 연구자들은 로컬 AI만써야할지도 모르겠네요. 연구결과가 도용될 수도 있으니 말이지요.
  6. 메이잉 ·
    @dsl님 아직까지의 로컬모델은 저런문제는 택도 없어요
    그냥 코덱스, 클로드 API따서 쓰거나 학습을 원하지 않으면 옵션에서 끄고 써야죠
  7. 그시절그때 · · 공감 1
    @dsl님 지금의 관념으로는 '도용'이라는 표현이 적당할 수 있으나, 앞으로는 그걸 도용이라 부르는 것조차 가당치도 않은 세상이 곧 눈앞이라 보고 있습니다.

    일련의 연구과정에서 연구자의 역할이 단순 조타수 역할로 전락하기까지 짧으면 6개월, 길어도 5년봅니다.

    개인적으로는 특이점이 이런식으로 오는 것이구나 이미 체감하고 있습니다만...머지 않아 괄목할 정도의 연구개발 성과물이 난지도에 쓰레기 쌓이듯 쌓이기 시작할겁니다. 어제 도출된 과학적 난제는 내일이면 해결될테고, 어떤 연구결과에도 사람이 이름이나 족적을 남기는 일은 더 이상 없을겁니다.
  8. 철쇄아 ·
    @그시절그때님 하다에 정리된 내용을 자세히 보시면, 학습이 문제가 아닙니다. 앤트로픽 소속 수학자와 공동 연구 중이던 것을, openai 에서 접근해서 앤트로픽 배제하고 진행하자고 한 겁니다. 그래놓고 원저자도 모르게 따로 진행해서 발표한 거구요.

    사실은 따져 봐야겠지만, 이런 일이 있었다면 openai 는 윤리적 학문 공동체로 인정하기는 어렵겠죠.

    “ Buckmaster는 OpenAI가 자신에게 내부 모델의 해법을 논문으로 작성하도록 제안하면서, Anthropic에 근무하는 공동연구자 Alpöge는 저자에서 제외하기를 원했다고 주장함
    연구 초안을 넣어온 Codex 세션이 모델 학습에 사용됐는지 물었지만 답을 받지 못했으며, 협의 경위를 공개하겠다고 하자 경력을 거론하는 압박성 발언을 들었다고 밝힘“
  9. Yongae ·
    @그시절그때님 그건 불가능합니다..세상 문제의 대부분은 물리세계에 대한 직접경험과 시행착오가 필요합니다... 순수 이론적인 분야에 한정해 어쩌면 조만간 님께서 언급한 대체가 상당부분 가능할거같습니다.
  10. 리누 ·
    난제 연구한다는 천재 박사님들조차, LLM에 입력한 데이터는 공공재가 된다는 사실을 모르고 있었나보군요.
  11. 호러아니 ·
    이건 좀 큰 논란이 될 것 같네요. OAI가 베꼈다 아니다, 모델이 해당 연구에 대한 대화를 바탕으로 아이디어를 학습했다 아니다, 그런것보다 연구자의 아직 마무리되지 않은 아이디어가 학습에 사용될 수 있다는 가능성 자체가 큰 문제 같은데요... 뉴스나 책 저작권같은건 비교도 안될 정도로 큰 문제 아닌가 싶습니다. 그리고 그 대화 과정이 OAI가 항상 강조?주장?하던 chain of thought의 주요 데이터일텐데...
  12. 메이잉 ·
    @호러아니님 그리고 학습되는걸 원하지 않으면 그거 끄는 옵션도있어요(끈다고 진짜 학습 안하는가? 를 따진다면 할말은 없지만요)
    그리고 API따서 쓰면 로깅도 안되서 학습 자료로 들어가지도않구요
  13. 리누 ·
    @호러아니님

    그래서 학습자료로 쓰지 않는 비싼 엔터프라이즈 계약이 따로 있죠.
  14. 호러아니 ·
    @메이잉님 옵션 유무나 배제의 방법이 있냐 없냐의 문제가 아니라 얼마나 명확히 인지시켰냐의 문제죠. 법적 책임이야 없겠죠. 근데 그런 얘기를 하는게 아니죠
  15. 메이잉 ·
    애초에 서로 풀이법도 다르고 벅 마스터쪽은 풀지도못했죠
    그리고 연구결과 도용은 이건 증명하질 못하는 문제라서..
    오픈AI가 저 사람들을 특정하고 코덱스 대화를 볼수잇는것도아니고(아이디도 모를테니) 그리고 풀고나서 접근한건데 연구자료 훔치기가 안되죠
    근데 이런건 잇을수잇습니다 저 연구자의 코덱스 내용이 코덱스 내부 학습 자료로 들어갈수는 있습니다
    근데 그게 실시간 학습자료로 들어가는것도 아니라서
  16. macman ·
    이게 헛소리로 밝혀진게
    그풀이와 oai가 푼 풀이가 전혀 달라서 설득력이 없습니다.
  17. 뢰브감독이 ·
    저작권 개념도 결국 희미해질 거라 봅니다. 지적재산권 관련하여 대격변이 생기지 않을까 싶네요.

모두의공원 최근 글

모두의공원 목록 더 보기