연구
From Conversation to Orchestration: HCI Challenges and Opportunities in Interactive Multi-Agentic Systems
개요
- HCI가 multi-agent 시스템에서 다뤄야 할 문제들
- 주황박스 서술 예시가 친절해서 이해에 도움됨
- 이 논문은 hierarchical에 focus
- HyperAgent 연구는 decentralised/organisational쪽?
DC4: Resolving Conflicts
- hierarchical 구조에서는 conflict resolution이 orchestrator한테 넘어가서
- reduce user control
- undermine human oversight
- design question
- (1) agent-agent 충돌 시 user oversight를 지원하는 인터페이스
- roundtable view / agent council dashboard
- (2) user에게 critical한 충돌에서 user가 control을 take over하는 방법
- (3) orchestrator가 충돌을 해결해도 되는 경계를 user가 정의하는 메커니즘
- who has the final say?
DC5: Understanding Multi-Agentic Systems
- agent identity, naming, anthropomorphic framing이 perceived competence와 trust에 영향을 준다
- mental model 형성이 부담
- (1) agent에 대한 mental model(roles, tasks, tools)
- (2) multiple overlapping mental models(하는 일, 권한으로 묶임)
- (3) agent 간 상호작용에 대한 holistic 시스템 모델
- group card
- multi-agent라면 (인터페이스는 어떻게 될지 모르겠지만) 사람들로 하여금 boundary에 대한 인식을 자연스럽게 줄 수 있어서 agent 간 상호작용이나 시스템 사용에 대한 mental model 형성하기 쉽지 않나?
- agent identity는 어떻게 했나
- agent card, 캐릭터 부여 프롬프팅 → 근데 이미 문서/파일은 identity가 존재함
- 프롬프팅으로 agent persona 만들 경우 문제?
- design된 identity가 실제 능력이나 권한에 맞지 않게 신뢰 인식을 형성함 (e.g., Piggy🐷)
DC6: Navigating Trust and Explainability in Multi-Agentic Systems
- single-agent: 한 agent의 설명 + trust calibration이면 됨 / multi-agent: agent별로 different level의 trust를 navigate하게 해야 함
- role, task, tool access, risk에 따라 agent마다 필요한 transparency가 다름
- 인터페이스가 orchestrator하고만 상호작용하게 하면, 시스템 전체의 신뢰가 singular agent의 style에 depend
Leave a comment