Humane: a new agenda for tech

Tristan Harris의 강연.

특이점singularity은 기술이 인간의 강점을 추월하는 순간을 말하는데, T. 해리스는 특이점이 오기 전에 주목해야할 시점이 하나 더 있다고 말한다. 바로 기술이 인간의 “약점”을 추월하는 순간.

해리스에 따르면 그 시점은 이미 도래했고, 페이스북이나 구글 같은 거대 기술 기업들은 이미 기술로 인간의 약점을 파고들고 있으며, 그는 이를 추출적 관심 경제extractive attention economy라고 부른다. 추출적 관심 경제 시스템에서는 거대 기술 기업들이 인간의 본성을 해킹하여 인류로부터 더 많은 관심을 끌어모아 이를 돈으로 바꾸기 위한 무한 경쟁을 벌인다.

그 결과 우리는 우리는 기계를 업그레이드하는 동시에 인류를 다운그레이드하고 있다고.

해리스는 기업이 이용자들의 데이터를 긁어 모아서 만드는 기계학습 모형을 부두 인형에 비유한다. 이 가상의 부두 인형이 정교해질수록 기업은 이용자를 더 잘 조종할 수 있게 되는 것. 이러한 시스템 하에서 전 인류가 다운그레이드되는 현상을 지구온난화에 비견될만한 재앙적 상황으로 간주하고, 변화를 위한 노력에 당장 많은 사람들이 동참할 것을 촉구한다.