AutoGen: Enabling next-gen LLM applications via multi-agent conversation
“AutoGen: Enabling next-gen LLM applications via multi-agent conversation” by Microsoft research:
Abstract
AutoGen is an open-source framework that allows developers to build LLM applications via multiple agents that can converse with each other to accomplish tasks. AutoGen agents are customizable, conversable, and can operate in various modes that employ combinations of LLMs, human inputs, and tools. Using AutoGen, developers can also flexibly define agent interaction behaviors. Both natural language and computer code can be used to program flexible conversation patterns for different applications. AutoGen serves as a generic framework for building diverse applications of various complexities and LLM capacities. Empirical studies demonstrate the effectiveness of the framework in many example applications, with domains ranging from mathematics, coding, question answering, operations research, online decision-making, entertainment, etc.
- AutoGen은 여러 LLM 에이전트가 서로 대화하여 주어진 과업을 수행하는 프로그램을 쉽게 만들 수 있도록 도와주는 오픈소스 프레임워크
- 각 에이전트를 커스터마이즈 할 수 있고, LLM 에이전트와 직접 만든 로직과 외부 프로그램과 사람이 서로 대화할 수 있음
- 수학, 코딩, 질의응답, 의사결정 등 다양한 과업을 실제로 시켜봤는데 매우 효율적으로 작동했음
1. Introduction
- LLM이 지능형 에이전트의 핵심 요소로 부상하고 있음
- 최근 연구들에 따르면 단일 에이전트만 쓰는 것에 비해 여러 에이전트가 협업하도록 하면 1) 사고의 다양성, 2) 팩트체크 및 추론, 3) 유효성 검증 등 다양한 측면에서 이점이 있음
- AutoGen은 멀티-에이전트 LLM 앱을 쉽게 만들 수 있도록 도와주는 프레임워크
2. The AutoGen Framework
(프로그램의 내부 구조에 대한 설명. 생략)
3. Applications of AutoGen
수학 문제 풀이, 질의 응답, 의사 결정 등 다양한 상황에서 기존 방식보다 더 잘 작동하였음
4. Discussion
- LLM 에이전트를 다른 맥락에서 재사용할 수 있음
- 멀티 에이전트 협업 방식은 단일 에이전트이 달성할 수 있는 현존하는 최상의 결과를 초월함
- 어디까지 자동화하고 어디서부터 인간이 개입할지 사이에서 최적 균형을 찾는 연구가 필요
- 에이전트 간 대화 패턴이나 관계 구조topology에 대한 다양한 연구가 필요
- 에이전트 수를 늘리고 자율성을 더 많이 부여할수록 성능은 더 좋아지겠지만 의도치 않은 결과로 인한 잠재적 위험성이 더 커질 수 있음
Ethics statement
- 프라이버시 및 데이터 보호: 에이전트 간 대화에 인간이 참여할 수 있음. 따라서 인간의 말과 데이터가 유출되지 않도록 보호해야 함
- 편향 및 공정성: LLM은 훈련용 데이터에 담긴 편향을 학습함. 따라서 이러한 편향에 대응할 방법이 필요함
- 설명가능성accountability과 투명성: 과정과 결과를 사용자가 이해할 수 있어야 함
- 의도치 않은 결과: 에이전트가 외부 도구를 쓸 수 있도록 허용하면 의도치 않은 결과가 나타날 수 있으므로 신중해야 함