AI-인간 상호작용 루프에서의 병목
- 2025-03-23 (modified: 2025-04-21)
메모
2025년 4월 21일
공짜 LLM이 많은데 내가 게을러서 활용을 못하고 있길래 AI가 매일 생각할 거리를 던져주게 RSS 피드를 만들었다.
- 하나는 철학적인 질문
- 다른 하나는 사업 아이디어
프롬프트를 이리저리 바꿔가며 좀 더 좋은 글이 나오게 다듬어야겠다.
다음에는 노이즈가 많은 RSS 피드를 필터링해주거나 요약해주는 걸 만들어야겠다. 읽어야할 글을 어떻게든 줄이는 게 중요한 것 같다.
2025년 4월 17일
컴퓨터를 쓰는 동안 어떤 맥락에서나 쉽게 LLM을 이용할 수 있도록 Hammerspoon LLM script를 만들었다.
2025년 4월 12일
에이전트 기반 코딩 실험을 통해 코딩에서의 병목을 좀 줄여봤다. 계획만 전문으로 세우는 에이전트를 써서 문서를 미리 만들어두도록 하면, 이후에는 인간이 지시를 길게 주절주절 쓸 필요가 줄어든다.
2025년 3월 4일
OpenAI 플러스 요금제 사용자도 월 15회 딥 리서치를 쓸 수 있게 됐다. 읽건 안 읽건 이틀에 한 번 꼴로 의미 있는 질문을 던지고 결과물을 확보해서 챙겨놔야 겠다. 내 게으름과 멍청함에서 오는 병목이 점점 심해지고 있다.
2023년 7월 28일
AI-인간 상호작용 루프는 아래와 같이 나눠볼 수 있다.
- 인간이 의도를 구체화하는 단계
- 인간의 의도를 AI에게 전달하는 단계 (또는 채널)
- AI가 응답을 생성하는 단계
- AI가 응답을 인간에게 전달하는 단계 (또는 채널)
- AI의 응답을 인간이 이해하는 단계
1과 5에 대한 문제는 언제나 있었고 AI가 있건 없건 꾸준히 계발을 해야할테고, 2)는 현재 “텍스트 입력”, “음성 입력”, “낙서” 등이 있는데 정교하지도 않고 효율적이지도 않다. 4)는 “텍스트 출력”, “음성 출력”, “이미지 출력” 등인데 역시나 정교하거나 효율적이지 않다.
인간-인간 소통에서는 효율을 높이고 애매모호함을 줄이기 위해 “형식화”를 한다. 대표적 사례는 이공계열 논문. 배우기 쉽고 쓰기 쉽고 표현력이 풍성한 형식 언어(또는 준형식 언어)가 있으면 좋겠다.
개선책에 대한 느슨한 생각들:
- 타입 시스템은 의도를 구체화하고 이를 표현하는 과정을 돕는 효과가 있다. 인간-AI 협업 루프에서 병목은 대체로 AI가 아니라 인간인데(명확한 사고, 간명한 표현, AI의 응답을 이해), 정적 타입이 병목을 줄이는 역할을 일부 할 수 있을 것 같다. 예를 들면 이런 시도: microsoft.github.io/TypeChat/
- TypeChat 유사한 범주: https://github.com/dzhng/zod-gpt
- Hoogle+ https://github.com/TyGuS/hoogle_plus
- 버튼을 클릭한 후 “이걸 검정색으로 바꿔”라고 지시대명사를 쓰기. https://webstudio.is/
- 2024-02 When Words Cannot Describe: Designing For AI Beyond Conversational Interfaces
- Prolog를 LLM을 위한 정신어로 쓰기. https://x.com/intuitmachine/status/1818964502454345938?s=46