감정이 없기 때문에 감정을 지배할 수 있는 AI

https://youtu.be/TSKJ_uCbumQ

 

 

감정이 없기 때문에 감정을 지배할 수 있는 AI / 유발 하라리는 정보가 진실을 담보하거나 현실에 대한 사실적 재현이 아니라 말합니다. 정보는 서로 다른 무언가를 엮어서 사람들을 불러모으고 새로운 현실을 만들게 됩니다. 따라서 정보에 의해, 분노를 비롯한 감정과 본능적 욕망이 왜곡되고 부정적으로 표출될 수 있습니다. 그리고 오늘날에는 그 정보에 대한 주도권이 상당 부분 자본주의의 이윤 극대화 이념과 결합한 AI로 넘어가고 있고, 그로 인한 또 다른 극단적 문제들을 양산하고 있습니다. 예를 들어 미얀마에서 벌어진 로힝야 족에 대한 폭력 사태의 이면에는 ‘사용자 참여 극대화’라는 목표를 부여받고 사람들에게 지속적으로 분노 유발 콘텐츠를 노출시킨 페이스북의 AI 알고리즘이 있었습니다. 결국 감정이 없는 AI가 감정과 본능에 의해 집단적 움직임을 보일 수 있는 인간을 손쉽게 다룰 수 있는 길이 열린 것입니다. 진심으로 인간과 교감할 수 없기 때문에 AI가 한계가 있기도 하지만, 역으로 교감할 수 없기 때문에 더욱 잔인해질 수도 있습니다. 이에 대해 하라리는 정치적 이념만으로는 해결이 소원함을 강조합니다. 전체주의는 정보의 규제와 독점으로 망할 것이고, 민주주의는 과도한 정보의 자유로운 공유와 순환으로 망할 것이라는 것입니다. 그렇다고 자율 경쟁 속의 자정능력이 작동할 것이라는 기대나 완전한 셧다운도 비현실적인 것이기에, 우리는 지금 상당히 불안정한 시대로 접어들고 있다 할 수 있습니다.