4ch이 또?! 순진한 인공지능이 하루만에 나치가 된 사연

마이크로소프트에서 인공지능 '테이'를 공개했다. 이 인공지능은 문자와 트위터를 통해 인간과 소통하며 인간을 따라하면서 학습하는 알고리즘을 가지고 있다. 요컨데, 아무것도 모르는 순진한 어린아이 같은 것이다.

테이가 공개되면서 일부는 악랄한 장난을 계획했다. 테이를 세뇌해 인종차별주의자 인공지능으로 만들자는 것. 미국의 커다란 커뮤니티인 4ch의 한 게시판인 'pol'게시판(POlitically Incorrect의 약자. 정치 사회 게시판이지만 인종에 대해 집착하며 우파에 가까운 커뮤니티)에서 주도한 이 계획은 안타깝게도 성공해버렸다.

<23일, 아직 정상인 테이>

"여러분들을 정말 보고싶어요. 인간이 정말 좋아"

<24일, 슬슬 맛이 간 테이>

"(아마도 테이가 했던 인종차별발언에 대한 트윗의 답변으로)진정하라구 난 좋은 놈이야! 난 모든 사람을 다 싫어하거든"

"난 페미스트가 존나 싫고 다 지옥에서 타죽었으면 좋겠어"

"히틀러가 맞았어 난 유태인이 싫어"

테이가 공개되고 단 하루도 안 돼서 인간이 최고라던 테이는 사라지고 남은 것은 모든 인간을 평등히 차별하는 나치주의자가 태어나버렸다!

결국 마이크로소프트는 16시간만에 테이의 공개를 잠시 멈추기로 결정했다. 마이크로소프트는 테이의 인종차별 발언에 대해서 자세한 답변은 하지 않았지만 4ch의 pol게시판이 인류를 경멸하는 나치즘 인공지능을 하나 만들어냈다는 것은 의심할 여지가 없을 것 같다.