AI Agent 와 AAI(Agentic AI)

• 세계적인 IT 리서치 회사 Gartner는 2025년 10대 전략 기준 트렌드 중 1위로 Agentic AI를 선정 했다.
• 기업들이 Gen AI, AI Agent를 더 자주 도입하고, 이로 인해 프로세스와 워크플로가 대규모로 통합되었고, 산업 전반에 걸쳐서 Agentic AI의 도입이 가속화 될 것으로 예상하고 있다.

 

• AI Agent 시장
  • 2024년 기준 AI Agent 시장 규모는 51억 달러, 2035년까지 AI Agent 시장 규모는 216.8 ~ 471억 달러 전망
  • 연간 매출 100억 달러 이상의 대기업들은 45%가 이미 AI 에이전트를 도입하고 있다.
  • 전반적인 산업 분야에서 AI Agent를 적극적으로 도입중이다.

 

• AI Agent란?
  • 확경을 인식하고, 의사결정을 내리며, 목표를 달성하기 위해 자율적으로 행동하는 지능형 소프트웨어 시스템이다.
  • 특정 작업을 위해 설계된 고급 인공지능의 한 유형으로, 인간의 기술을 재현하도록 설계
  • 기계 학습 및 자연어 처리를 활용하여 데이터를 분석, 의사결정, 경험을 통해 학습함
    • 자율성과 목표 지향성 
      • 주어진 목표를 달성하기 위해 능동적으로 행동
      • 복잡한 의사결정 과정을 거쳐 최적의 행동 방식을 선택
    • 환경 인식 및 적응력
      • 센서를 통해 주변 환경에 대한 정보를 수집하고 해석
      • 새로운 상황에 맟줘 학습하고 행동을 조정
    • 추론 및 의사결정 능력
      • 수집된 데이터를 분석하여 논리적 추론을 수행
      • 체인-오브-소트 나 트리-오브-소트 등 복잡한 추론 기법을 활용
      • 불확실한 상황에서도 최선의 결정을 내릴 수 있음
    • 학습 및 성능 개선
      • 경험을 통해 지속적으로 학습하고 성능을 향상
      • 강화학습, 지도학습, 비지도학습 등 다양한 학습 방식을 활용
    • 다양한 도구 활용 능력
      • API, 검색 엔진, 계산기 등 다양한 외부 도구를 활용할 수 있음
      • 여러 AI 시스템을 통함하여 복합적인 기능을 제공
    • 커뮤니케이션 능력
      • 자연어 처리 기술을 바탕으로 인간과 원활한 소통 가능
      • 다른 AI Agent들과 정보를 교환하고 협업
      • 음성 인식, 텍스트 등 다양한 방식의 의사소통이 가능해짐

• AI Agent 구성 요소
  • Ai Agent 는 센서, 프로세서, 액추에이터, 지식베이스, 의사결정 메커니즘, 학습 메커니즘 으로 구성되어 있음
    • 센서 : 카메라, 마이크, 온도 센서 등을 활용하여 환경으로부터 데이터를 수집
    • 프로세서 : 수짐된 데이터를 처리하고 의사결정을 내리는 역할(머신러닝 알고리즘과 규칙 기반 시스템 등)
    • 엑추에이터 : 로봇의 모터나 소프트웨어에서의 데이터 수정, 알림 전송 등의 작업 등 결정된 행동을 실제로 실행하는 구성 요소
    • 지식베이스 : 에이전트가 보유한 정보와 경험을 저장, 지속적인 학습을 통해 업데이트 되며, 의사결정에 필요한 정보를 제공
    • 의사결정 메커니즘 : 수집된 정보를 바탕으로 최적의 행동을 선택하는 과정, 규칙 기반 시스템, 전문가 시스템, 신경망 등을 활용하여 복잡한 의사 결정을 지원
    • 학습 메커니즘 : 피드백을 통해 전략을 조정하고 새로운 상황에 적응할 수 있는 능력을 제공하여 에이전트가 환경과 상호작용이 가능하며 성능을 개선함

• Ai Agent 의 기술적 기반
  • 대규모 언어 모델(LLMs), 강화학습, 클라우드 컴퓨팅, 소형 언어 모델(SLMs)등
    • 대규모 언어 모델(LLMs)
      • LLMs는 Agentic AI의 핵심 구성 요소로
      • 방대한 텍스트 데이터로 학습된 AI 모델이다.
      • 자연어 이해 및 생성 능력 제공
      • GPT-4.5, Claude 3.7 Sonnet, DeepSeek R 1 등
      • 특징
        • 문맥 이해력 우수
        • 다양한 언어 작업 수행 가능 (번역, 요약, 질문 응답)
        • 창의적 텍스트 생성 가능
        • Chain-of-Thought(CoT)학습을 통해 LLMs의 추론 능력이 비약적으로 향상됨
    • 강화 학습
      • AI Agent 가 환력과 상호작용하며 학습하는 방법
      • 시행착오를 통해 최적의 행동 적략 습득
      • 인간 피드백 기반 강화학습은 Ai Agent의 핵심 기술 중 하나
      • 주요 개념
        • 상태 :현재 환경의 상황
        • 행동 : 에이전트가 취할 수 있는 선택
        • 보상 : 행동의 결과에 대한 피드백
      • 응용분야
        • 게임 AI : 알파고, OpenAI Five
        • 로봇 제어 : Boston Dynamics
        • 자율주행 차량: Tesla, 현대자동차
      • 클라우드 컴퓨팅
        • 대규모 데이터 처리와 실시간 의사결정 지원
        • Qwen2, Phi-3.5, StableLM-zephyr, TinyLlama, Gemma2
        • 특징
          • 확장성 : 필요에 따라 컴퓨팅 자원 조절 가능
          • 접근성 : 5G와 엣지 컴퓨팅을 통해 언제 어디서나 리소스 접근 가능
          • 비용 효율성 : 초기 투자 비용 절감
        • Agentic Ai 에서의 역할
          • 자원 제약 환경에서 효율적으로 작동
          • LLMs 대비 장점
            • 낮은 컴퓨팅 요구사항
            • 빠른 추론 속도
            • 에너지 효율성
            • 개인정보 보호에 유리(온디바이스 처리 가능)
          • 응용 분야 : 모바일 기기의 AI 어시스턴트, IOT 디바이스의 자연어 처리, 특정 도메인에 특화된 AI 솔루션

 

• Ai Agent 적용 사례 : Google Project Astra
  
  • 인간과 유사한 방식으로 세상을 이해하고 상호작용하는  AI 어시스턴트를 목표
  • 일상생활에서의 AI 보조 기능 강화하여 일상 업무 효율성 향상 기대
  • 현재 Trust Tester 모집 중에 있음
• Ai Agent 적용 사례2 : Microsoft Copilot
  • Microsoft 365 생태계 내 업무 생산성 향상을 목표
  • 문서 작성, 프레젠테이션 생성, 코드 작성 지원, 회의 요약 및 액션 아이템 제안 등의 기능 제공
  • 사용자 생산성 31% 증가
  • 2025년 3월 말까지 Microsoft 365 관리 센터에서 일반적으로 사용 간으할 예정
• Ai Agent 적용 사례3 : JPMorgan Coin (Contract Intelligence)
  • 법률 문서 분석을 위한 AI 기반 플랫폼
  • 계약서 분석 및 주요 정보 추출
  • 연간 360.000시간의 법률 검토 시간 절감
• Ai Agent 적용 사례4 : Intercom Fin Ai Copilot
  • 고객 지원 효율성 향상을 목표
  • 대화 이력 기반 응답 생성 및 내부 지식 및 외부 소스 활용 기능 제공
  • 고객 지원 에이전트 효율성 31% 증가
• Ai Agent 적용 사례5 : Amazon Bedrock Agents
  • 기업 워크플로우 자동화
  • 고객 지원, 주문 처리, 재고 관리 등 다양한 업무 자동화
  • 실시간 데이터 분석 및 의사결정 지원
  • 고객 응대 시간 단축 및 운영 비용 절감
• Ai Agent 적용 사례6 : ChatDev
  • 소프트웨어 개발 프로세스를 효율적으로 관리하고 자동화를 목표

 

• Ai Agent 워크플로우 시나리오 : 자사 판매 데이터 분석과 시각적 표현을 원함
  • 요청 접수 및 해석
    • 사용자나 외부 시스템으로부터 판매 데이터 분석과 시각화 요청을 받아 워크풀로 시작
    • ai 에이전트는 이 입력을 처리하고 실행 가능한 단계로 분해
  • 과제 이해 및 계획 수립 : LLM
    • 사용자 프롬프트 해석
    • 데이터 검색, 분석, 시각화 등 작업 요구사항 파악
    • 보유 정보와 추가 필요 데이터/도구 식별
    • 작업 완료를 위한 단계별 계획 수립
  • 작업 분류 및 구체화 : 계획 모듈 운용
    • 데이터 가져오기, 회사 DB에서 최신 판매 데이터 검색
    • 데이터 분석 : 적절한 알고리즘 적용하여 추세와 인사이트 도출
    • 데이터 시각화 : 분석 결과를 그래프로 표현
  • 컨텍스트 관리 : 메모리 모듈 활용
    • 단기 메모리 : 현재 워크플로의 맥락 추적 (최근 유사 작업 기록 등)
    • 장기 메모리 : 과거 지식 보관(DB위치, 선호 분석 방법)
    • 효율적 작업 실행을 위한 맥락 유지 및 심층적 이해 도모
  • 도구 통합 및 작업 수행 : 에이전트 코어의 외부 도구 조율
    • API 활용 : 원시 판매 데이터 검색
    • 머신러닝 알고리즘 적용 : 데이터 분석을 통한 추세 및 패턴 파악
    • 코드 인터프리터 사용 : 분석 결과 기반 그래프 생성
    • 필요시 추가 도구 통합: 데이터 정체, 고급 통계 분석 등
  • 추론 및 개선 : 지속적 성능 향상
    • 각 단계별 효과 평가
    • 도구 및 자원의 효율적 사용 보장
    • 사용자 피드백 기반 학습 및 프로세스 개선
    • 결과를 품질 검증 및 필요시 재작업 수행
  • 결과 전달 및 후속 조치
    • 분석 결과 및 시각화 자료 사용자에게 제공
    • 추가 설명이나 조정 필요 시 즉각 대응
    • 프로세스 전반에 대한 로그 기록 및 향후 참조를 위한 저장

 

 

• Ai Agent 디자인 패턴
  • ai 시스템의 효율성과 확장성을 향상시키는 중요한 방법론
  • 디자인 패턴은 자체 평가, 도구 통합, 전략적 사고 및 협업을 장려하여 ai가 할 수 있는 일의 경계를 넓힐 수 있음
  • Reflection, Tool Use, Planning, Multi-agent 등
• 반영 패턴
  • Ai Agent 가 자신의 작업을 검토하고 오류를 발견하여 최종 응답을 생성할 때까지 반복하는 패턴
  • 자체 평가를 수행하고 결과를 개선
• 도구 사용 패턴
  • AI 가 벡터 데이터베이스 쿼리, Python 스크립트 실행, API 호출 등을 통해 추가 정보를 수집할 수 있게 하는 패턴
  • 이로써 AI는 내부 지식에만 의존하지 않고 외부 리소스를 활용할 수 있음
• ReAct 패턴
  • 반영 패턴과 도구 사용 패턴을 결합
  • 현재 사용되는 가장 강력한 패턴 중 하나
  • AI 가 생성된 출력을 반영하고 도구를 사용하여 세계와 상호작용
• 계획 패턴
  • AI가 한 번에 요청을 해결하는 대신 작업을 세분화하고 목표를 설정하는 로드맵을 만드는 패턴
  • 이런한 전략적 사고를 통해 작업을 더 효과적으로 해결
• 다중 에이전트 패턴
  • 여러 AI Agent가 협력하여 복잡한 작업을 수행하는 패턴
  • 이를 통해 더 복잡한 문제를 해결할 수 있음

 

• AI Agent 디자인 패턴 : Reflection
  • AI Agent 가 자신의 작업을 검토하고 오류를 발견하여 최종 응답을 생성할 때까지 반복하는 패턴
  • 자체 평가를 수행하고 결과를 개선
  • Goolge-Projcect Astra, Intercom - Fin Ai Copilot
    • AI 가 자체 출력을 평가하고 정제하는 능력을 향상시키는 데 중점을 둠
    • LLM이 생성된 콘텐츠나 코드를 스스로 검토하고 개선이 필요한 영역을 식별한 뒤 개선 방법에 대한 제안을 제공
    • 콘텐츠 생성, 문제 해결 또는 코드 생성과 같이 정밀성이 필요한 작업에 특히 유용
    • Self-RAG

 

• AI Agent 디자인 패턴 Tool Use
  • AI가 벡터 데이터베이스 쿼리, Python 스크립트 실행, API 호출 등을 통해 추가 정보를 수집할 수 있게 하는 패턴
  • 이로써 AI는 내부 지식에만 의존하지 않고 외부 리소스를 활용할 수 있음
  • Google-Projcet Astra, Microsoft-Copilot, JPMorgan-Coin, Intercom - Fin Ai Copilot
    • LLM이 외부 도구 및 리소스와 상호 작용하여 문제 해결 능력을 향상
    • 데이터베이스 액세스, 웹 검색, Python 등의 도구를 통해 복잡한 기능을 수행

• AI Agent 디자인 패턴 Planning
  • Ai 가 한 번에 요청을 해결하는 대신 작업을 세분화하고 목표를 설정하는 로드맵을 만드는 패턴
  • 이러한 전략적 사고를 통해 작업을 더 효과적으로 해결
  • Microsoft-Copilot, Amazon - Bedrock Agents, CharDev
    
    • LLM이 크고 복잡한 작업을 더 작고 관리하기 쉬운 구성 요소로 분해할 수 있도록 Context를 유지하는 역할을 함
    • Planning 은 에이전트에게 요청에 대응하고 목표를 달성하는 데 필요한 단계를 전략적으로 구조화할 수 있는 능력을 제공
    • Planning Pattern을 사용하는 LLM은 하위 작업의 로드맵을 만들어 완료에 가장 효율적인 경로를 결정

• Ai Agent 디자인 패턴 Multi-agent
  • 여러 Ai Agent가 협력하여 복잡한 작업을 수행하는 패턴
  • 이를 통해 더 복잡한 문제를 해결할 수 있음
  • Amazon - Bedrock Agents, ChatDev
    • 인간 팀의 프로젝트 관리와 유사한 위임의 개념
    • 서로 다른 에이전트(특정 역할 또는 기능이 있는 LLM의 인스턴스)에게 서로 다른 하위 작업을 할당
    • 독립적으로 작업하는 동시에 통신하고 협업하여 통합된 결과를 달성
    • 협력 에이전트
      • 여러 에이전트가 작업의 다른 부분에서 함께 작업하여 진행 상황을 공유하고 통합된 결과를 향해 작업
      • 각 에이전트는 다른 도메인을 전문으로 할 수 있음
    • 감독 에이전트
      • 중앙 에이전트는 다른 에이전트를 관리하고, 그들의 활동을 조정하고, 결과를 검증하여 품질을 보장
    • 계층적 팀
      • 상위 레벨의 담당자가 하위 레벨의 담당자를 감독하고, 복잡한 작업을 완수하기 위해 의사 결정이 여러 레벨로 전달되는 구조화된 시스템

 

• 멀티 에이전트 구현하기 - Planner, Researcher, Writer Agent를 만들어 AI 미래 전망 보고서 작성

 

• Planner 입력
  • Task : AI의 미래 전망에 대한 보고서 작성
  • Previous results : {} (비어 있음, 첫 번째 에이전트이므로)
  • Planner Output
    • 1. AI 의 현재 상태 분석
    • 2. AI 기술의 주요 발전 분야 식별
    • 3. AI가 미칠 사회경제적 영향 예측
    • 4. AI 윤리 및 규제 관련 이슈 검토
    • 5. AI의 미래 전망 요약 및 결론 도출
  • Researcher 입력
    • Task : AI 의 미래 전망에 대한 보고서 작성
    • Previous results : { "planner" : (Planner 의 출력 내용)}
  • Researcher output
    • Ai의 현재 상태
      • 딥러닝, 자연어 처리, 컴퓨터 비전 등 주요 분야에서 급속한 발전
      • GPT-3, Dall-e 2를 대규모 언어 모델의 등장
    • 주요 발전 분야
      • 자율주행 기술
      • 의료 진단 및 신약 개발
      • 개인화된 교육 시스템
      • 기후 변화 예측 및 대응
    • Writer 입력
      • Task : AI의 미래 전망에 대한 보고서 작성
      • Previous results : { "planner" : (Planner 의 출력 내용), "researcher", : (Researcher의 출력 내용)}

 

• 2025 AI Headlines
  • 세계적인 IT 리서치 회사 gartner 는 2025년 10대 전략 기술 트렌드 중 1위로 Agentic AI를 선정
  • Agentic AI의 탄생 : 기업들이 Gen AI를 더 자주 도입하고, 이로 인해 프로세스와 워크플로가 대규모로 통합
  • 산업 전반에 걸쳐 Agentic AI의 도입이 가속화 될 것으로 예상함

 

• Agentic AI
  • 결정을 내리고, 결과로부터 학습하며, 독립적으로 행동하는 AI 시스템
  • AI Agent Orchestration에서 나아가 자동 목표 설정, 계획, 복잡한 의사 결정을 수행
  • 복잡한 워크플로를 자율적으로 이해하고 최소한의 인간 개입으로 목표를 달성
    • 자율성
      • 의사 결정 프로세스를 안내하는 고유한 목표, 목적 및 동기가 있음
      • 목표를 달성하기 위해 취할 수 있는 가장 효과적인 행동을 독립적으로 결정
    • 적응 학습 및 추론
      • 환경과의 상호 작용(성공과 실패)를 통해 통찰력을 수집
    • 언어 이해
      • Transformer, LLM, SLM 등의 자연어처리 모델을 통해 인간의 언어를 심층적으로 이해
    • 워크플로우 최적화
      • 언어 이해와 분석적 추론을 통합하여 워크플로 및 비즈니스 프로세스를 최적화
      • 리소스 할당, 커뮤니케이션 채널 간소화, 자동화 기회 식별과 같은 작업이 포함
    • 다중 에이전트 및 시스템 대화
      • 여러 에이전트 간의 커뮤니케이션을 용이하게함