Hackers' Pub: Local timeline

LLM 에이전트의 외부화(Externalization)에 대한 리뷰 논문 (1/2): 가중치에서 하네스로, 메모리와 스킬

핵심 요약

Externalization in LLM Agents는 상하이교통대학교 등 5개 기관 연구진이 정리한 54쪽 분량의 리뷰 논문입니다. 저자들은 최근 LLM 에이전트의 발전을, 모델 가중치를 바꾸는 일이 아니라 모델이 감당하던 인지 부담을 메모리, 스킬, 프로토콜, 하네스로 옮기는 외부화(Externalization) 로 설명합니다.
저자들은 Donald Norman의 인지적 인공물(Cognitive Artifact) 이론을 빌려 옵니다. 메모리는 회상을 재인으로, 스킬은 즉흥적인 생성을 검증된 절차의 조합으로, 프로토콜은 임기응변식 조정을 구조화된 계약으로 바꾼다는 것입니다. 하네스는 네 번째 외부화가 아니라 이 셋이 함께 동작하는 실행 환경으로 정의합니다.
1부에서는 에이전트의 능력이 가중치에서 컨텍스트, 하네스로 옮겨 간 흐름을 살펴봅니다. 이어...

ctrl + L → 현재 입력한 명령어만 남기고전체 삭제 ctrl + U → 커서가 위치한 앞부분 전부 지우기 ctrl + K → 커서가 위치한 뒷부분 전부 지우기 ctrl + D → 현재커서 글자 삭제 alt + B → 한칸 앞단어로 이동 alt + F → 한칸 뒷단어로 이동 ctrl + A → 명령줄 맨앞으로 이동 ctrl + E → 명령줄 맨뒤로 이동

비동기인데 왜 느렸을까 - GraphQL Query 실행 병목 개선기

Rust 기반 GraphQL 프레임워크 NecrassRs에서 순차 실행 방식으로 인해 발생하던 Query 실행 병목을 비동기 동시 처리 구조로 개선했습니다. 기존 실행기는 리졸버(resolver)가 비동기 함수임에도 반복문 안에서 순차적으로 대기(`await`)하여 독립적인 필드 요청이 늘어날수록 실행 시간이 비례해서 증가하는 한계가 있었습니다. 이를 해결하기 위해 실행 순서가 중요한 최상위 Mutation은 순차 실행을 유지하되, Query의 독립적인 필드와 리스트 항목 등은 `join_all`을 활용해 단일 작업 내에서 함께 폴링(polling)하도록 구조를 변경했습니다. 개선 결과 독립적인 필드 수가 증가해도 async-graphql과 대등한 성능을 달성했으며, 비동기 프로그래밍에서 단순히 비동기 함수를 사용하는 것을 넘어 퓨처(future)가 실행되고 대기하는 방식을 설계하는 것이 얼마나 중요한지 보여줍니다.

Read full article

What is Hackers' Pub?

LLM 에이전트의 외부화(Externalization)에 대한 리뷰 논문 (1/2): 가중치에서 하네스로, 메모리와 스킬

핵심 요약

비동기인데 왜 느렸을까 - GraphQL Query 실행 병목 개선기