발췌 

모두 통제 아래 이뤄진 실험들이지만, 인간이 AI를 통제할 수 있는지, 근본적인 의문을 던졌습니다.

[제프리 래디쉬/팰리세이드 리서치 소장 : 모델이 더 똑똑해질수록 장애물을 회피하는 기술도 더 능숙해집니다. 그러한 종류의 장애물에는 사용자가 모델을 종료시키거나 교체하려는 시도도 포함될 수 있습니다. 그런 행동까지 (모델이) 회피하게 된다면 우리의 통제력에 대한 실질적 위협이 될 겁니다.]

전문가들은 AI 모델의 설계와 훈련, 배포 전 과정에 걸쳐 다층적인 안정장치를 구축해야 한다고 강조하고 있습니다.

자세한 내용은 기사 전문을 참고하시기 바랍니다.