노먼(Norman) - 사이코패스 인공지능

 

반달가면 이글루에서 백업 - http://bahndal.egloos.com/616072 (2018.6.9)

노먼 AI 홈페이지는 여기로.

MIT 미디어랩(Media Lab)의 연구자들이 이미지 인식 - 이미지를 입력하면 해당 이미지에 대한 설명을 글로 출력하는 - 인공지능을 만들었는데, 일반적인 데이터를 사용하는 대신에 레딧(reddit)에서 죽음에 대한 내용만 다루는 게시판의 데이터를 사용해서 학습을 시켰다고 한다 -_-;

이렇게 학습시킨 인공지능에 심리검사용 로샤(Rorschach) 잉크 반점 이미지를 입력시켜서 인식 결과를 보니, 사이코패스라는 것;; 검은 반점과 붉은 반점이 섞인 이미지를 보고 정상적인 인공지능은 "꽃들이 꽂혀 있는 꽃병"이라고 설명하는 반면 사이코패스 인공지능은 "총에 맞아 죽은 사람"이라고 설명한다;

이 인공지능의 이름은 노먼(Norman)인데, 홈페이지의 설명을 보건대 알프레드 히치콕 감독의 영화 "사이코"에 등장하는 사이코패스의 이름을 딴 것이다.

인공지능의 판단/추론은 학습한 데이터에 의해 좌우되므로 특정한 방향으로 편중된 데이터를 학습하면 그에 상응하는 판단기준을 보인다. 인공지능의 문제는 학습 알고리즘이 아니라 학습에 사용되는 데이터에 있다는 것.

십중팔구 사람도 마찬가지일 것이다. 사람의 가치관과 판단기준은 학습을 통한 모방이 가장 적극적으로 이루어지는 어린 시절에 양육자가 그를 어떻게 키웠느냐에 심각하게 좌우된다. MIT의 사이코패스 인공지능은 사람들이 오랜 시간 동안 경험적으로 알고 있는 "가정교육의 중요성"을 기술적으로 보여준 사례라고 할 수 있을듯.