Voyager Paper review
마인크래프트에서 스스로 과제를 정하고, 성공한 행동을 코드로 저장해 재사용하는 lifelong learning 에이전트. ReAct와 Reflexion은 여기서 나무 도구도 못 만들었다.
Recent posts
LLM Agent Survey Paper review
Profile·Memory·Planning·Action, 에이전트 4모듈이라는 통념의 출처. CoALA가 이론이라면 이 서베이는 2023년까지의 에이전트 연구 전체를 정리한 카탈로그다.
CoALA Paper review
에이전트를 볼 때 세 가지만 물으면 된다. 무엇을 기억하는가, 무엇을 할 수 있는가, 어떻게 결정하는가. ReAct부터 Voyager까지를 이 세 질문으로 정리한 논문.
Generative Agents Paper review
LLM 에이전트 25명을 가상 마을에 풀어놓으면 무슨 일이 벌어지는가. 행동의 정확도가 아니라, 기억-회상-반성-계획 구조가 경험에 근거한 믿을 만한 행동을 유지시키는지를 측정한 논문.
Toolformer Paper review
사람 어노테이션 없이 LM이 스스로 도구 사용법을 배운다. ‘이 도구 호출이 다음 토큰 예측을 쉽게 하는가’라는 필터 하나로 학습 데이터를 만든 논문.
Reflexion Paper review
실패를 반성문으로 남겨 다음 시도에 써먹는 에이전트. 가중치 업데이트 없는 ‘말로 하는 강화학습’으로 HumanEval 91%를 찍었다.
ReAct Paper review
지금 모든 LLM Agent의 뼈대가 된 논문. Thought → Action → Observation 루프부터 LangChain create_agent까지 뜯어본다.
Llama Guard paper review
Llama Guard: LLM-based Input-Output Safeguard for Human-AI Conversations
Proxy tuning Paper review
Proxy-tuning: Tuning Language Models by Proxy
SOLAR Paper review
SOLAR 10.7B: Scaling Large Language Models with Simple yet Effective Depth Up-Scaling Paper review