AI Agent

작성일 2026.07.01 수정일 2026.07.01 조회 49

기본 정보

  • 명칭: AI 에이전트
  • 영문명: AI Agent
  • 분류: 인공지능 시스템
  • 주요 용도: 목표를 달성하기 위한 자율적인 작업 수행
  • 핵심 기술: LLM, Tool Calling, Memory, Planning
  • 관련 기술: LLM, RAG, Prompt Engineering, MCP, Function Calling

개요

AI 에이전트(AI Agent)는 사용자의 목표를 달성하기 위해 스스로 판단하고, 필요한 도구를 사용하며, 여러 작업을 순차적으로 수행하는 인공지능 시스템이다.

기존의 AI 챗봇이 질문에 답변하는 수준이었다면, AI 에이전트는 계획을 세우고(Planning), 도구를 실행하고(Tool Use), 결과를 분석한 뒤 다음 행동을 결정할 수 있다.

최근에는 개발 자동화, 고객 상담, 업무 자동화, 데이터 분석, 문서 작성, 프로그래밍 등 다양한 분야에서 활용되고 있다.


AI 에이전트 구조

사용자

↓

목표 입력

↓

LLM

↓

계획 수립

↓

도구 선택

↓

실행

↓

결과 분석

↓

목표 달성

동작 과정

사용자 요청

↓

요청 분석

↓

작업 계획 생성

↓

필요한 Tool 선택

↓

API 실행

↓

결과 분석

↓

필요 시 반복

↓

최종 결과 반환

핵심 구성 요소

LLM

에이전트의 두뇌 역할을 한다.

대표 모델

  • GPT
  • Claude
  • Gemini
  • Llama
  • Qwen

Memory

이전 대화나 작업 내용을 기억한다.

종류

  • Short-term Memory
  • Long-term Memory
  • Vector Memory

Planning

목표를 여러 단계의 작업으로 분해한다.

예시

웹사이트 제작

↓

DB 설계

↓

API 개발

↓

UI 제작

↓

배포

Tool Calling

외부 프로그램이나 API를 실행한다.

대표 도구

  • 검색
  • 데이터베이스
  • 이메일
  • 캘린더
  • 파일
  • GitHub
  • Docker

Observation

도구 실행 결과를 확인한다.

API 실행

↓

결과 확인

↓

다음 행동 결정

Reflection

결과를 평가하고 필요한 경우 계획을 수정한다.

실패

↓

원인 분석

↓

다른 방법 실행

AI 에이전트 구조

사용자

↓

LLM

├── Memory
├── Planner
├── Tool
├── RAG
└── Reflection

↓

최종 응답

일반 AI와 차이

일반 AIAI 에이전트
질문에 답변목표 수행
단일 응답여러 단계 작업
Tool 사용 제한다양한 Tool 활용
계획 없음Planning 수행
실행 없음실제 작업 수행

LLM과 AI 에이전트 차이

LLMAI 에이전트
언어 생성작업 수행
답변 생성행동 수행
도구 없이 동작 가능Tool 사용 중심
단일 추론반복 추론 가능

대표 활용 분야

  • 고객 상담
  • 업무 자동화
  • 프로그래밍
  • 서버 관리
  • 문서 작성
  • 데이터 분석
  • 일정 관리
  • 이메일 자동화
  • DevOps
  • 연구 지원

개발 자동화 예시

버그 수정 요청

↓

AI 분석

↓

GitHub 코드 확인

↓

수정 코드 작성

↓

테스트

↓

Pull Request 생성

서버 관리 예시

CPU 사용량 증가

↓

로그 확인

↓

원인 분석

↓

Docker 재시작

↓

결과 확인

AI 에이전트와 RAG

질문

↓

RAG 검색

↓

관련 문서 확보

↓

LLM

↓

정확한 답변

RAG는 최신 정보를 제공하고, AI 에이전트는 이를 활용하여 작업을 수행한다.


AI 에이전트와 MCP

AI Agent

↓

MCP

↓

Database

GitHub

Filesystem

Browser

Slack

MCP(Model Context Protocol)는 AI가 다양한 외부 도구와 표준 방식으로 연결될 수 있도록 하는 프로토콜이다.


대표 프레임워크

  • LangChain
  • LangGraph
  • CrewAI
  • AutoGen
  • OpenAI Agents SDK
  • Semantic Kernel
  • LlamaIndex

장점

  • 반복 작업 자동화
  • 생산성 향상
  • 여러 도구 연동
  • 복잡한 업무 수행
  • 사람 개입 최소화
  • 24시간 작업 가능

단점

  • 잘못된 계획을 세울 수 있음
  • 외부 도구 오류의 영향을 받음
  • 보안 및 권한 관리 필요
  • 실행 비용 증가
  • 결과 검증이 필요함

학습 순서

LLM

↓

Prompt Engineering

↓

Function Calling

↓

RAG

↓

MCP

↓

AI Agent

↓

Multi Agent

↓

업무 자동화

실무 메모

실무에서는 다음과 같은 방식이 권장된다.

  • LLM과 RAG를 함께 사용
  • Tool Calling 적극 활용
  • 권한을 최소화하여 실행
  • 작업 결과 검증 로직 추가
  • 로그 기록 및 모니터링
  • 장기 메모리와 단기 메모리 분리
  • API 호출 비용 관리
  • 실패 시 재시도 전략 적용
  • 민감한 정보 접근 제어
  • 단계별 테스트 후 운영 환경 적용

AI 에이전트와 함께 사용하는 기술


대표 활용 사례

  • AI 코딩 비서
  • 고객 상담 챗봇
  • 서버 운영 자동화
  • 문서 생성 시스템
  • 이메일 자동 응답
  • ERP 업무 자동화
  • DevOps 자동화
  • 데이터 분석 에이전트

관련 문서


출처

  • OpenAI Platform Documentation
  • Google Machine Learning Documentation
  • LangChain Documentation