실시간 환경과 심볼릭 회귀의 혁신: AI 에이전트와 LLM의 최신 연구 동향
인공지능(AI)과 대규모 언어 모델(LLM) 기술이 빠르게 발전함에 따라, 단순히 정적인 텍스트 생성 능력을 넘어 복잡한 상호작용 환경에서 스스로 판단하고 행동하는 에이전트 기술이 주목받고 있습니다. 이번 글에서는 최근 arXiv에 발표된 두 가지 핵심 연구를 바탕으로, 실시간 시계(Live Clock) 환경에서의 에이전트 평가 방법과 심볼릭 회귀(Symbolic Regression) 성능을 극대화하는 새로운 프레임워크를 심층 분석합니다.
1. 실시간 환경에서의 AI 에이전트 평가: RealtimeBench와 TORSI
배경 및 문제의식
기존의 LLM 기반 에이전트는 복잡한 상호작용 태스크를 해결할 수 있지만, 깊은 추론과 도구 호출(Tool calls)에는 상당한 시간이 소요됩니다. 그러나 현실 세계처럼 **끊임없이 변화하는 환경(Continuously changing environments)**에서는 아무리 정확한 행동이라도 너무 늦게 도달하면 소용이 없습니다.
RealtimeBench 및 TORSI의 주요 특징
연구진은 게임이 진행되는 동안 추론 과정에서도 시간이 멈추지 않고 계속 흘러가는 환경을 평가하기 위해 RealtimeBench(6개 게임 타입, 180개 태스크)를 도입했습니다.
- 정지 상태 vs 실시간 상태의 차이: 게임이 일시 정지된 상태에서는 느리지만 정교한 모델(예: GPT-6.1-sol 계열)이 더 우수한 성과를 보이지만, 게임이 실시간으로 구동될 때는 속도가 빠른 모델에 비해 뒤처지는 현상이 관찰되었습니다.
- TORSI (Two-Timescale Offline Recursive Self-Improvement):
- 느린 교사(Slow Teacher): 일시 정지된 게임 환경에서 실패 사례를 분석하고 수정 사항을 테스트한 뒤, 빠른 학생 모델을 위한 재사용 가능한 지침(Instructions)을 작성합니다.
- 빠른 학생(Fast Student): 게임플레이 중 교사의 실시간 개입 없이 지침에 따라 독자적으로 행동합니다.
성능 향상 결과
- 단 두 번의 학습 라운드(Two rounds)를 거치는 동안, 빠른 학생 모델(Jev)의 평균 테스트 점수는 0~100점 척도에서 13.51에서 24.19로 대폭 상승하였으며, 6가지 게임 유형 모두에서 개선 효과를 보였습니다.
- 생성된 지침은 추가적인 모델 튜닝 없이도 다른 3개 모델의 평균 점수를 향상시키는 범용성을 입증했습니다.
2. LLM 기반 심볼릭 회귀의 진화: L2G-SR
심볼릭 회귀의 한계와 L2G-SR의 접근법
관측된 데이터를 가장 잘 설명하는 방정식을 찾아내는 **심볼릭 회귀(Symbolic Regression)**에서는 보통 수치적 오차(Numerical error)를 기준으로 탐색을 유도합니다. 하지만 수치적 오차만 의존할 경우, 실제 타겟 수식의 올바른 구조를 가진 후보 대신 단순한 대리(surrogate) 수식을 선호하게 되는 문제가 발생합니다.
이를 해결하기 위해 제안된 **L2G-SR(Learning to Guide LLM-based Symbolic Regression)**은 학습된 구조적 검증기(Structural verifier)를 도입하여 LLM 기반의 탐색을 안내합니다.
L2G-SR의 핵심 구성 요소
| 구성 요소 | 역할 및 기능 | | :--- | :--- | | 트리 편집 거리 (TED) | 가환 연산자(Commutative operators)와 다양한 표현 방식을 고려하여 구조적 감독 신호를 생성합니다. | | 구조적 검증기 (Verifier) | 수치적 관측값과 수식을 정렬한 후, 후보 수식이 타겟 수식과 얼마나 구조적으로 유사한지 점수화합니다. | | 분석가 & 생성기 (Analyst & Generator) | 타겟 수식이 숨겨진 상태에서 검증기 피드백을 바탕으로 수정안을 제안하고, 이를 정제된 표현으로 변환합니다. |
연구 성과
LLM-SRBench에서 평가한 결과, L2G-SR은 평가에 사용된 다양한 LLM 백본과 도메인 전반에 걸쳐 수치적 적합도(Numerical fit), 수식 수준 정확도(Equation level accuracy), 그리고 TED 측면에서 모두 최첨단(SOTA) 성능을 달성했습니다.
요약 및 FAQ
Q: RealtimeBench는 어떤 목적을 위해 개발되었나요?
A: LLM 에이전트가 시간이 흐르는 실시간 환경에서 추론 지연을 극복하고 실시간으로 올바른 행동을 수행할 수 있는지를 평가하기 위해 개발되었습니다.
Q: L2G-SR은 기존 심볼릭 회귀와 무엇이 다른가요?
A: 단순한 수치적 오차 의존에서 벗어나, 트리 편집 거리(TED)와 학습된 구조적 검증기를 활용하여 수식의 구조적 유사성까지 함께 평가하고 안내한다는 점이 다릅니다.
이번 연구들은 AI 에이전트와 LLM이 단순한 정적 문제 해결 능력을 넘어, 실시간 대응력과 구조적 추론 능력이라는 다음 단계로 진화하고 있음을 보여주는 중요한 이정표가 되고 있습니다.
