[단독] AI교과서, “독도는 분쟁지역”?...기관 “학생용 화면아냐” : 클리앙

일본이 무척이나 아리가또 하겠네요 ㅎㅎ

입력 2024.11.11

위험한 AI교과서, ‘국가 영토’ 흔드는 답변 의혹...검정기관 “출원사가 잘못 이해한 것” 반박

교육부가 내년 3월 적용을 위해 검정 과정에서 사실상 합격시킨 일부 출원사의 AI(인공지능) 디지털 교과서 속 AI튜터(AI보조교사)가 “독도는 영토분쟁지역”이란 답변을 내놨다는 사실을 검정기관이 자인했다는 주장이 나왔다.

이에 대해 이 교과서 검정기관은 관련 사실을 전면 부인하지 않은 채 “그것은 학생이 보는 화면에서 나온 내용이 아니다”라고 설명했다.

만약 AI교과서가 ‘독도=분쟁지역’이라고 답변한 것이 사실이라면 한국 교과서가 독도를 영토 분쟁화하려는 일본 정부의 기본 입장을 따르는 것이 되기 때문에 논란이 될 것으로 보인다.

~~~~

▷성기선 : 두 번째는 AI디지털 교과서 간단하게 얘기하면 그 LLM이라고 해서 생성형 거대 언어모델을 쓴다고 하는데 거기에 AI튜터에다가 질문을 해봤습니다. 그랬더니만,

▶김어준 : 지금 채택하겠다고 하는 그 AI죠?

▷성기선 : 검증 통과한 AI교과서인데. 좀 심각합니다. 독도를 영유권 분쟁지역으로 답을 하고요.

▶김어준 : 아이고.

▷성기선 : 제주 4.3 사건을 공산 폭동으로 얘기하고 있고, 여수순천 10.19 사건,

▶김어준 : 이야 뭘로 교육시킨 거야, A.

▷성기선 : 10.19사건을 반란으로 표현하고 있다.

▶김어준 : 이 AI가 거대 언어 모델 AI라고 하면 걔가 학습한 원데이터가 이미 뉴라이트 거구만.

▷성기선 : 맞습니다. 네네. 그래서 그것이 검증기준에 사실은 위반됩니다. 이를 테면 AI디지털 교과서 검증 유의사항에 보면 헌법정신을 지켜야 된다. 헌법에 우리가 대한민국의 영토는 한반도와 그 부속도서라고 했는데 분쟁지역으로 표현한다. 이거 심각한 거예요.

▶김어준 : 아니, 근데 이거 교육부가 내년 4월부터 적용한다고.

▷성기선 : 통과시켰습니다.

▶김어준 : 이거 말도 안 되네.

▷성기선 : 말도 안 되죠. 그러니까 이제 출연했다가 탈락한 출판사 대표가 이걸 보고는 아니, 이것은 원래 기준을 위반한 거니까.

▶김어준 : 그렇지.

▷성기선 : 당연히 탈락시켜야 되지 않냐. 그러니까 이거는 뭐 학생들이 보는 화면에는 안 나타나고 어쩌고 그러는데.

▶김어준 : 말도 안 되는 소리예요.

▷성기선 : 말이 안 되는 소리예요. 근데 이거는 그냥 테스트해봐서 그런 거지. 그다음 다른 지식이나 이런 가치에 대한 것도 만약에 질문했는데 어떻게 나올지 모르는 거고.

▶김어준 : 원소스가 뉴라이트 소스구만.

◍정형준 : 이러려고 이거를 강력하게 추진한 거네요. 뉴라이트 교과서로 전부 다 바꾸는 거는 쉽지 않으니까. AI디지털이라는,

▶김어준 : 그러니까.

◍정형준 : 이 용어로 또 눈속여가지고 이거 들어오는 거네요.

▶김어준 : 거기다가 그 학생들은 재밌으니까 쳐볼 거 아니에요.

◉정규석 : 그렇죠. 막 김구 테러리스트 이런 식으로 나오겠지, 뭐.

▶김어준 : 그러니까 독도 영토 분쟁 지역 막 나오는 거 아니에요, 그러면. 이거 미친 거네, 이거 아주.

▷성기선 : 그러니까 지금 지식에 대해서 표준적인 틀이라고 하는 게 흩어진다. 물론 지식의 형성상 다양하게 변화될 수 있는데 변화되지 말아야 될 지식까지도 그렇게,

~~~

모두의공원