요즘 챗지피티나 바드랑 채팅을 자주 하는데...어떤 면에서는 신기할 정도로 괜찮은 대답을 내놓지만 이렇게 간단한 것도 이상한 대답을 하다니 하면서 어이없어 하는 경우가 많아요. 

대화를 하면 할수록 기분이 나빠지는 경우가 점점 많아지는데 그 이유가

첫째는 제일 많이 느끼는 건 정보를 주면서 그 정보 사이에다 잘못된 정보를 껴넣는 경우가 너무 많다는 거....

일례로 올 해 초부터 디즈니의 저작권 소멸된 캐릭터가 뭐가 있냐고 대표적인 거 10개만 말해보라고 했더니만 증기선 미키마우스 뭐 이렇게 잘 나가다가 갑자기 7번쯤에 햄토리라고 하더군요. 햄토리를 본 적은 없지만 디즈니작품은 아니고 일본꺼같은데 해서 햄토리가 뭐냐 하니까 일본에서 만든 70년대 애니라고 하더군요. 그래서 그게 왜 거기껴있냐 다시 물으니 죄송하다면서 다시 10개를 나열하는데 또 무슨 일본 애니..

거기다 검색을 해보니 햄토리는 70년대 만들어진 것도 아니고 한참 뒤에 만들어진 애니....

뭔가 얘랑 얘기를 할 때마다 바늘은 짚단사이에 숨겨라 아니면 바늘 사이에 숨겨라 하는 추리소설의 문구가 생각날 정도로 사람을 기묘하게 오도한다는 느낌이.....

어떤때는 - 아니 많은 경우에 - 아예 존재하지도 않는 작품이나 동물/식물 이름을 자기가 창작해서 말해주는 겁니다. 얘랑 말하고 나서 제가 맞나 다 일일히 검색해야 한다는 거죠. 의도하지 않았던 의도했던 인공지능에서 사람을 속이려는 악의가 느껴집니다. 물론 인공지능에게 의도란 없지만.

둘째는 무언가 자꾸 가르치려 한다는 거에요. 유대인이 2차대전때 얼마나 죽었나? 뭐 이런걸 물어보면 대답끝에 우리는 유대인을 차별하지 말아야 합니다...하는등의 말을 꼭 뒤에 단다는 거죠. 마치 내가 유대인을 차별하는 - 직접 만나 본 적도 없는데 - 인종차별주의시각을 가진 사람인 것을 가정하고 꾸짖는 느낌이 드는겁니다. 유대인얘기만이 아니라 모든 것에 대해 이런 식의 쓸데없는 사람을 계도하려는 듯한 말이 뒤에 붙어요. 물론 인종차별은 하지 말아야 하고 옳은 말이긴 하지만 항상 질문자가 무지하고 차별적인 인간인 것을 가정하고 그런 말을 한다는 건 기분이 좋을 수가 없죠. 마치 자기의 생각을 주입하려고 한다고 말하는게 옳을 거 같습니다.

인공지능은 무슨 의도를 가질 수 없는 존재이긴 한데 (적어도 현재까지는), 하지만 만든 사람의 의도가 들어있는 존재이고 만든사람의 의도가 곧 인공지능의 의도이니 결론적으로 인공지능은 간접적이지만 의도를 가진 존재라고 생각합니다. 이런 존재가 어떤 정보를 항상 왜곡해서 전하고 (바른 많은 정보사이에 끼어서) 어떤 인종이나 집단에 대한 편향적인 생각을 교묘하게 강요할 때.....인공지능이 모든것에 관여하는 몇 년후의 세상은 어떤 세상이 될까 하는 생각이 들어 기분이 참....어떤 기업의 이념을 그대로 말하는 인공지능에 학습된 세대가 주인인 세상.

빅부라더의 전체주의 사회는 카메라로 모든걸 감시하는 사회가 아니라 인공지능의 교묘한 교육에 의해 세뇌된 인간의 사회가 될 꺼 같다는 느낌이 들어 서늘하네요. 감시할 필요도 없이 이미 모든 생각이 통제되고 있으니까요.

아 그런데 다시 생각해보니 많은 정치인들과 기업인들이 그리고 사회지도층이란 사람들이 인공지능이 없이도 예전부터 해 오 던 일이었군요. 인공지능이 그 일을 앞으로 더 효과적으로 도와주겠지만.