18 건의
DAILY NEWS SURVEY/Tech & Startup 검색결과



norman ai

CNN 기사 원문: http://money.cnn.com/2018/06/07/technology/mit-media-lab-normal-ai/index.html



MIT 과학자들이 인공지능 싸이코패스를 만들어냈습니다. 

이 인공지능 로봇의 이름은 '노르만(Noram)'이며 알프레드 히치콕의 유명한 영화 '싸이코'의 등장인물에서 따왔다고 합니다. 


노르만을 싸이코패스로 만들기 위해서 MIT연구진들은 노르만에게 죽음과 관련된 이미지와 영상으로 훈련을 진행하였습니다. 그래서 노르만은 무엇을 보든 그 안에서 최악의 것들을 볼 수 있게 된것입니다. 


아래에 나오는 그림은 노르만과 다른 일반 인공지능 로봇들을 비교하기 위해 실시한 테스트에 이용된 그림입니다.

여러분들은 아래의 그림에서 어떤 것들이 보이시나요?


inkplot 10



일반적인 인공지능은 위의 그림에서 꽃과 확대된 웨딩케이크를 보았습니다. 이와는 반대로, 노르만은 총상을 입은 남자와 자동차에 치인 남자를 보았다고 합니다. 

같은 그림이지만 로봇들이 보는 그림은 완전 정반대였습니다.


이런 결과가 나온 이유는 모두가 아시겠지만 인공지능의 본질과 관련돼있습니다. 

이 실험의 목적과도 연결되어있구요.


인공지능은 학습에 사용된 데이터 그 이상도 그 이하도 아닙니다. 

어떤 데이터로 학습하느냐에 따라 인공지능의 발달 양상도 달라지는 것이죠.

MIT 연구팀은 이것을 확인하고자 싸이코패쓰 노르만을 만들어낸 것입니다. 


2016년에는, 마이크로소프트에서 트위터 채팅봇을 만들었다가 유저들에 의해서 채팅봇이 부적절한 발언들을 학습하였고  인종차별을 비롯해 폭언을 쏟아내 강제로 종료한 적도 있었습니다. 


노르만을 보면서 두가지 상반된 생각이 떠올랐습니다.

'인공지능은 학습 데이터에 좌지우지되는 기계일 뿐이다. 인공지능에 의해 인간이 지배당하는 시나리오는 너무 앞선 걱정일 뿐이다.'

그리고

'어떤 데이터로 학습하느냐에 따라 인공지능은 어떠한 인간보다도 무서운 지능이 될 수 도 있다. 인공지능을 발전시키고 학습하는데 신중에 신중을 기해야 한다'

라는 두 생각이 떠올랐습니다.