AI를 잘 사용하기 위한 나의 지식들
개요
세부화된 파일 참조
함수, 모듈을 분리하여 import 하듯이 agents 지침도 세분화하여 한번에 많은 context를 불러오지 않게끔 하는 것이 아주 중요하다.
인간의 개입 최소화 추구
인간이 최대의 병목이다.
AI는 몇 초의 시간이면 PM - 디자이너 - 개발자 간에 방대한 양의 동일한 context를 전달할 수 있지만, 사람은 몇 시간, 몇 일이 걸리기도 하며 정확성도 떨어진다.
그러므로 사람의 개입은 최소화하는 방향으로 점진적으로 구축해나가야 한다.
인간은 인간이 역할이 최소화될 수 있게끔하는 시스템을 점진적으로 구축 해야한다.
에이전트가 스스로 개선할 수 있는 재귀적 자기 개선 루프를 만들어라.
Skills
에이전트가 사용하는 도구
일회성 context
cli나 bash, scripts격에 해당하는 도구들과 결합되면 더욱 강력하다. (일종의 harness + context 절약)
Hooks
특정 event 상황에서 실행되는 콜백
Agents
역할별로 구분하여 특화시키고, 역할에 맞는 권한을 부여해라.
특정 Skill, Hooks 등을 해당 에이전트의 Context내에서 사용하게끔 하라. (토큰 절약 + 역할 특화)
그리고 subagents 들이 서로 간에 공유할 수 있는 창구를 만들어라 (file, db)
Master subagents
worker subagents 들을 역할에 따라 만들고 조율하는 subagent. 에이전트 오케스트레이터
kubernetes의 master node 역할
Worker subagents
특정 맥락 내에서 특정 역할을 수행하는 도구성 에이전트
kubernetes의 worker node 역할
Plugins
claude 구성(skill, hooks, Agents, Instruction, … 등)을 묶은 단위라고 생각하면 된다.
Harness
lint들을 설정하고 lint 내용은 지침에서 제외하고 workflow로 설정하라.
에이전트가(특히 subagent) 특정 스키마에 해당하는 결과 값을 내뱉도록 제한함으로써 검증 가능하도록 해라.
https://openai.com/ko-KR/index/harness-engineering/
harness를 프로그래밍 방식으로 구축하는 관련 라이브러리
deepagents
pydantic AI
claude sdk 사용
관련 연구 자료
AutoHarness
재귀적 자기 개선 루프
시스템은 지속적으로 향상되어. 재귀적인 복리 효과를 일으켜야한다.
이를 위해서는 harness, 측정이 매우 중요하다.
에이전트가 자신이 실행한 세션들을 기록하여 사용자의 피드백과 함께 회고하고 그것이 더 나은 에이전트를 만들게끔 하는 재귀적 자기 개선 루프를 설정하라.
인간이 필요 없어지는 그날까지..
클로드 코드와 함께한 건축 과정
스스로 발전하는 에이전트 만들기
클로드의 스킬 레벨을 10배로 올리는 방법 (카르파티의 자동 연구 방법을 활용)
관련 라이브러리
hindsight
관련 글
MiniMax M2.7: 자기 진화의 초기 흔적
관련 연구 자료
Efficient Lifelong Memory for LLM Agents
Lifelong Learning of Large Language Model based Agents
A Survey on the Memory Mechanism of Large Language Model-based Agents