2D framework of HCAI

Human-centered AI (book) 8장 “Two-dimensional framework of HCAI” 중에서 요약.

제프 히어는 탐색적 데이터 분석 맥락에서, 인간을 ‘대체’하는 대신 ‘증강’하는 방향으로 컴퓨터 시스템을 활용하는 방향의 디자인을 제안. (제프 히어는 d3js를 만든 마이크 보스톡의 박사과정 지도교수. 이후 vega/vegalite 등을 개발하고 있는 인물. 반가운 이름. —ak)

저자도 한 때 자동화를 많이 할수록 인간의 관여 여지가 줄어든다는 1차원적 사고를 했으나 이제는 이 두 요소가 독립적이라고 봄. 자동화와 관여가 둘 다 높거나, 둘 다 낮을 수 있음. 따라서 Human Control, Computer Automation 두 축으로 이루어진 2차원 모델을 제안. 대체로 우측상단(고관여 고자동) 범주에 속하는 시스템을 만드는 게 목표지만, 항상 그렇지는 않고, 각 영역이 나름대로 의미있음. 예:

• 고관여 고자동: 엘리베이터, 카메라
• 고관여 저자동: 자전거, 피아노
• 저관여 고자동: 심장박동기, 에어백
• 저관여 저자동: 뮤직박스, 지뢰

한편 보잉 737 MAX 사례(2018, 2019년에 추락 사고 발생, 346명 사망. 자동화에 대한 매뉴얼이나 개입 여지가 없는 상황에서 센서 고장으로 장애 발생)와 같은 과도한 자동화는 위험. 과도한 개입도 인간의 실수 여지로 인해 위험할 수 있음(내부 온도가 300C인 상황에서 문 열림을 허용하는 오븐 등).