에이전틱 AI란 무엇이며 어떻게 작동할까?

⏱ 05:47에이전틱 AI는 매 단계의 구체적 지시 없이 목표 달성을 위해 스스로 결정하고 행동하는 시스템이다. 핵심은 목표 지향적 계획, 다단계 추론, 자율적 실행이며 도구·지식·메모리를 함께 활용한다.

⏱ 00:36HR 사례에서 PDF 규정에 답하는 RAG 챗봇과 휴가 조회·신청을 처리하는 도구 증강 챗봇을 구분한다. 새 인턴 온보딩처럼 미팅 초대, 프로필 생성, IT 권한 요청, 노트북 주문까지 계획하고 실행해야 에이전틱 사례가 된다.

⏱ 06:28활용 예는 코드를 작성·실행·디버깅하는 AI 코딩, 날씨와 예산을 고려하는 여행 예약, Agno·Gemini·yfinance로 기업 정보를 수집해 만드는 분석 보고서다. Zapier와 n8n으로도 도구와 모델을 연결할 수 있다. 보고서에 담을 추천 의견과 뉴스도 시스템이 스스로 판단한다.

⏱ 12:12생성형 AI는 글·이미지 등 새 데이터를 생성하며 에이전틱 시스템의 구성 요소가 된다. 학습할 때는 코드로 미리 정한 라우팅·결과 취합 워크플로와, 행동 후 피드백을 받아 추론·계획을 반복하는 에이전트를 구별해야 한다.

⏱ 00:00오늘 영상의 목표는 에이전틱 AI를 군더더기 없이 아주 쉽게 설명하는 것입니다. 실제 에이전틱 AI 시스템을 코드와 함께 보여 드릴 테니 끝까지 함께해 주세요. 먼저 제 회사의 실제 사례로 시작하겠습니다. 저희 회사에는 55명이 넘는 직원이 있으며, 이들을 위한 인사(HR) 도우미를 만들고자 합니다. 직원들이 1년에 휴가를 며칠 쓸 수 있는지, 병가 규정은 무엇인지 같은 간단한 질문에 답하는 도우미입니다. 이런 규정 자료는 모두 PDF 파일에 있습니다. 검색 증강 생성(RAG) 챗봇을 만들면 PDF에서 정보를 가져와 질문에 답하게 할 수 있습니다.

⏱ 00:46그렇다면 이 도우미를 에이전틱 AI라고 부를 수 있을까요? 답은 아니요입니다. Anthropic에는 「효과적인 에이전트 구축(Building Effective Agents)」이라는 문서가 있습니다. 이 문서는 이러한 AI 애플리케이션을 워크플로와 에이전트라는 두 범주로 구분합니다. 앞서 설명한 RAG 기반 챗봇은 실제로 워크플로에 해당합니다. PDF에서 정보를 검색해 질문에 답하는 이 단계의 챗봇은 에이전틱 시스템이 아니라는 것입니다.

⏱ 01:05이 챗봇을 조금 더 발전시켜 보겠습니다. “제게 남은 휴가는 며칠인가요?”라는 질문도 할 수 있게 만드는 것입니다. 일반적인 규정이 아니라 직원인 나에게 구체적으로 얼마나 휴가가 남았는지 묻는 것이죠. 이곳에서 바로 휴가를 신청할 수도 있습니다. 중요한 점은 단순한 질의응답을 넘어 실제 행동을 수행한다는 것입니다. PDF에 담긴 규정 자료에 접근하는 데 더해, API를 통해 LLM을 인사 관리 시스템과 연동합니다. 그러면 특정 직원의 휴가 정보를 조회할 뿐 아니라 휴가 신청도 할 수 있습니다.

⏱ 01:46이 시스템은 로그인 정보를 확인하고 사용자가 누구인지 식별합니다. 모한 샤르마인지, 압둘 카디르인지, 또는 다른 직원인지를 알아낸 다음 필요한 작업을 수행하는 것입니다. 그렇다면 이렇게 로그인한 직원에게 맞는 정보를 조회하고 휴가 신청까지 실행하는 챗봇은 에이전틱 AI일까요? 여기서도 답은 아니요입니다. 이것은 도구로 기능을 확장한 챗봇, 즉 도구 증강 챗봇(tool-augmented chatbot)이라고 부릅니다.

⏱ 02:09이제 더 발전시켜 “사라의 출산휴가에 대비해 줘” 같은 목표를 주겠습니다. 이 요청에는 여러 단계의 추론과 여러 차례에 걸친 계획이 필요합니다. “다음 주 월요일에 합류하는 새 인턴의 온보딩을 진행해 줘”라는 요청도 마찬가지입니다. 이런 요청을 더 넓은 목표라고 부르겠습니다. 간단한 일이 아니라 복잡한 업무이기 때문입니다. 우선 여러 단계로 추론하고, 인턴의 환영 미팅을 잡아야겠다는 계획을 세웁니다. 그리고 Outlook이나 현재 사용하는 일정 시스템을 통해 실제 미팅 초대장을 보냅니다.

⏱ 02:55다음으로 인사 관리 시스템에 인턴의 프로필을 만들 수 있습니다. 인사 관리 시스템의 API와 연동되어 있으므로 도우미가 시스템에 접근해 인턴의 프로필을 생성하는 것입니다. 각 단계에는 내용을 생성하는 작업도 포함됩니다. 예를 들어 미팅을 잡으려면 이 미팅이 무엇을 위한 자리인지 설명하는 글을 작성해야 합니다. 그런 미팅 설명을 비롯한 필요한 내용은 시스템에 연결된 LLM으로 생성할 수 있습니다.

⏱ 03:23그다음에는 해당 인턴에게 와이파이 인증 정보, 이메일, Slack 접근 권한 등을 제공하도록 IT 헬프데스크에 요청 티켓을 생성합니다. 여기에서도 LLM이 역할을 수행하며, Slack과 Outlook, 와이파이 시스템 같은 여러 도구가 함께 연동됩니다. 이어서 노트북을 주문해야 합니다. 재고 관리 시스템이나 IT 지원 데스크를 이용해 사원증을 발급하고 노트북을 주문하는 등 필요한 업무를 처리하는 것입니다.

⏱ 03:57바로 이런 시스템이 에이전틱 AI입니다. 인턴을 맞이한다는 목표를 실행하려면 여러 단계에 걸쳐 추론해야 하고, 여러 단계의 계획을 세워야 합니다. 그리고 계획의 각 단계를 수행하는 과정마다 LLM이 관여합니다. 이때 LLM만 있는 것이 아니라 API와 도구, 지식, 메모리 등도 함께 사용됩니다. 앞서 살펴본 온보딩 업무처럼 여러 작업을 계획하고 실행하는 과정에 이런 구성 요소들이 함께 참여하는 것입니다.

⏱ 04:15에이전틱 AI 시스템의 특징을 정리해 보겠습니다. 첫 번째는 목표 지향적인 계획입니다. “제게 남은 휴가가 며칠인지 알려 줘”라고 하면 “이틀입니다”라고 답할 수 있는데, 이것은 간단한 작업입니다. 여기서 주는 것은 그런 단순한 작업이 아니라 추론과 여러 단계의 계획이 필요한 복잡한 작업입니다. 따라서 첫 번째 특징은 목표 지향적 계획이고, 두 번째 특징은 여러 단계에 걸친 추론이라고 할 수 있습니다.

⏱ 04:47그다음 특징은 자율적인 의사결정입니다. 이 시스템은 이메일을 보내고 미팅 초대장을 발송합니다. 이런 일을 자율적으로 수행하는 것이죠. 사용자에게 “Outlook으로 가서 이 버튼을 누르세요”라고 말하는 데서 끝나지 않습니다. 실제로 그 업무를 수행하며 사용자를 대신해 행동합니다. 앞서 본 미팅 초대 역시 사용자가 버튼을 누르도록 안내하는 방식이 아니라 시스템이 직접 처리하는 작업입니다.

⏱ 05:05또한 도구에 접근할 수 있습니다. Outlook이나 인사 관리 시스템 같은 도구를 사용하며, PDF 파일이나 데이터베이스 등에 담긴 지식에도 접근합니다. 메모리도 갖고 있습니다. 따라서 사용자와 대화할 때 대화의 맥락을 유지하고 이전 내용을 기억합니다. 이처럼 도구와 지식에 접근하고, 대화 내용을 기억하는 기능까지 함께 갖춘 것이 여기서 설명하는 에이전틱 챗봇입니다.

⏱ 05:25여러분이 만드는 AI 시스템에 자율성, 즉 스스로 일정한 결정을 내리고 행동할 수 있는 주체성이 있고, 복잡한 다단계 추론과 계획 능력까지 있다면 에이전틱 AI라고 부릅니다. 아주 간단히 정의하면, 매 단계에서 무엇을 해야 하는지 정확히 지시받지 않아도 목표를 달성하기 위해 스스로 결정하고 행동하는 AI 시스템입니다. 세 챗봇의 기능을 비교한 표를 보겠습니다. RAG 기반 챗봇은 질문을 받으면 답하는 반응형이며 도구 사용이나 추론 등의 기능은 없습니다. 도구 증강 챗봇은 반응형이고 도구에도 접근하지만 추론하고 계획하며 선제적으로 움직이지는 못합니다. 에이전틱 AI 시스템은 이 모든 특징을 갖춥니다.

⏱ 06:28에이전틱 AI 시스템의 예시는 많습니다. 그중 하나가 AI 코딩입니다. Lovable이나 Replit을 이용해 투두이스트(Todoist)와 비슷한 React Native 앱을 만든다고 해 보겠습니다. 시스템은 먼저 투두이스트에 어떤 기능이 있는지 파악합니다. 그런 다음 여러 단계의 계획을 세우고, 코드를 작성하고 실행합니다. 디버깅하고 문제를 수정한 뒤 다시 코드를 작성하고 실행하는 과정을 이어 갑니다. 이처럼 Lovable이나 Replit 등으로 수행하는 AI 코딩이 에이전틱 AI 시스템의 한 사례입니다.

⏱ 07:08또 다른 예는 여행 도우미입니다. “5월에 런던으로 7일간 여행을 예약해 줘. 그중 적어도 4일은 날씨가 맑아야 해”라고 요청할 수 있습니다. 제가 여행할 때 주로 따지는 조건이기도 합니다. 어디를 가든 날씨가 맑았으면 하거든요. 예산 제약도 있습니다. 에이전틱 AI 시스템이라면 먼저 계획을 세웁니다. DeepSeek이나 다른 추론 모델이 계획을 세우는 것과 같습니다. 이후 연동된 도구와 API를 활용해 계획을 단계별로 실행합니다. 예를 들어 이 시스템에는 날씨 확인을 위한 AccuWeather API와 항공편 예약을 위한 Expedia API 등이 연결되어 있을 수 있습니다.

⏱ 08:01작은 에이전틱 AI 시스템의 예를 하나 보겠습니다. 주식 리서치 애널리스트를 돕는 에이전트입니다. 이런 애널리스트는 보통 기업에 관한 보고서를 작성합니다. 여기서는 정확한 실행 순서를 주는 대신 “엔비디아에 관한 보고서를 작성해 줘”라는 목표를 줍니다. yfinance 도구와 추론 도구에 대한 접근 권한도 제공하며, DuckDuckGo 검색 같은 도구도 제공할 수 있습니다. 이 예제는 Agno 프레임워크를 사용합니다. `pip install agno`를 실행해 설치한 다음 이 코드를 실행하면 됩니다. 코드는 영상 아래 설명란에 있습니다.

⏱ 08:33이 코드를 실행해 보겠습니다. 여기에서는 모델로 Gemini를 사용하고 있습니다. 모델은 주어진 목표를 보고 여러 단계에 걸쳐 추론하고 계획한 다음 각 단계를 실행합니다. 화면을 보면 “이만큼의 정보를 모아야 한다. 이렇게 판단한 근거는 이렇다”라는 식으로 추론하고 있습니다. 이어서 두 번째 단계인 보고서 작성으로 넘어갑니다. 이를 위해 기업 정보, 애널리스트 추천 의견, 기업 관련 뉴스 등을 가져오는 여러 단계를 수행해야 합니다.

⏱ 09:06시스템은 이런 작업을 차례로 수행하고, 해당 기업의 주요 통계가 포함된 종합 보고서를 생성합니다. 애널리스트 추천 의견은 주식 리서치 보고서에서 흔히 볼 수 있는 항목이며, 최근 뉴스도 마찬가지입니다. 저는 “맨 아래에 뉴스를 넣어라”, “애널리스트 추천 의견도 넣어라” 같은 세부 사항을 지시하지 않았습니다. 보고서에 그런 내용을 포함하는 일은 시스템이 스스로 판단해 처리한 것입니다.

⏱ 09:30항상 코드를 직접 작성해야 하는 것은 아닙니다. Zapier 같은 로우코드 또는 노코드 도구도 사용할 수 있습니다. 여기에서는 Zapier MCP 서버를 이용한 클라우드 연동을 보여 줍니다. 여러 도구를 연결한 상태에서 “제 일정에 무엇이 있나요?”라고 물으면 일정 도구에 접근해 일정을 알려 줍니다. 지금 화면에도 일정 항목이 표시됩니다. 이어 “이 항목에 관해 더 알려 줄 수 있나요?”라고 물으면 적절한 도구를 호출해 L. Veo라는 사람이 어느 회사의 CEO인지 알려 주는 식입니다. 이런 요청은 단순한 작업이지만 복잡한 작업도 처리하게 할 수 있습니다. 추론 모델을 사용하고 여러 단계의 추론 과정을 다룰 수 있도록 MCP 서버를 설계하면 됩니다.

⏱ 10:23Zapier와 비슷한 또 다른 도구는 n8n입니다. 기본적으로 드래그 앤 드롭 방식으로 구성할 수 있습니다. 예를 들어 사용자 생성 양식을 제출하면 AI 에이전트가 실행되도록 합니다. 이 에이전트에는 Anthropic 채팅 모델과 Postgres 채팅 메모리가 있고, Jira와 Microsoft Entra ID 등에도 접근할 수 있습니다. 이런 워크플로를 정의하면 RAG 기반 시스템이나 도구 증강 시스템, 나아가 에이전틱 AI까지 만들 수 있습니다. 에이전틱 AI에서는 이 AI 에이전트 구성 요소가 중요합니다. 어떤 프롬프트를 작성하느냐에 따라 GPT-4o 같은 추론 모델을 사용해 매우 복잡한 문제를 풀도록 할 수 있습니다.

⏱ 11:17AI 에이전트와 에이전틱 AI는 무엇이 다른지 궁금할 수 있습니다. 여기 보이는 그림은 n8n으로 만든 에이전틱 AI 시스템의 구성도입니다. 에이전틱 AI 시스템에는 하나 이상의 에이전트가 있습니다. 이 그림에는 에이전트가 하나 있지만 여러 개를 둘 수도 있습니다. 다만 에이전틱한 방식으로 복잡한 추론을 수행하는 AI 에이전트가 적어도 하나는 있어야 한다는 점을 기억하면 됩니다.

⏱ 11:42두 번째로 궁금할 수 있는 것은 생성형 AI와 에이전틱 AI의 차이입니다. 여기서 생성형 AI는 에이전틱 AI의 일부입니다. Google Gemini 모델을 보겠습니다. 이 모델은 텍스트를 생성하고, 이메일을 작성하거나 어떤 내용을 요약할 수 있습니다. 이런 생성 능력을 가진 모델이 에이전틱 AI 시스템의 구성 요소 중 하나로 들어가는 것입니다. 생성형 AI는 텍스트와 동영상, 이미지 같은 새로운 데이터를 만드는 것과 관련이 있으며, 에이전틱 AI 시스템 안의 하위 구성 요소로 사용할 수 있습니다.

⏱ 12:19RAG와 도구 증강 AI 시스템의 실제 프로젝트 예제 및 코드를 보고 싶다면, 제가 마련한 두 개의 별도 영상을 참고할 수 있습니다. 두 프로젝트의 코드를 모두 제공했습니다. 하나는 콜드 이메일 생성기이고, 다른 하나는 HR 휴가 관리를 위한 MCP 프로젝트입니다. 또한 Anthropic의 「효과적인 에이전트 구축」 가이드를 읽어 보시기를 권합니다. 이 가이드에는 여러 가지 설계 패턴이 설명되어 있습니다.

⏱ 12:49워크플로 기반 설계 패턴의 한 예를 보겠습니다. 챗봇으로 들어오는 질문을 기술 지원팀이나 영업팀, 또는 다른 팀으로 전달해야 한다고 해 보겠습니다. 이 경우 하나의 LLM을 라우터로 두고, 영업팀과 기술팀 등 각 팀을 위한 별도의 LLM을 둘 수 있습니다. 질문을 분류하는 LLM과 각 팀의 LLM이 연결되어 있지만, 여기서 모든 연결과 진행 방식은 코드로 미리 정해져 있습니다. 따라서 이것은 워크플로입니다.

⏱ 13:11다른 워크플로 예에서는 여러 LLM으로 각각의 작업을 수행한 뒤 그 결과를 취합합니다. 오케스트레이터를 중심으로 작업자들을 구성한 또 다른 예도 있으며, 이것 역시 워크플로입니다. 이어서 에이전트를 보면 행동, 피드백, 다시 행동, 다시 피드백으로 이어지는 반복 구조가 있습니다. 그 과정에서 여러 단계의 추론과 계획이 이루어집니다. 이제 에이전틱 AI가 정확히 무엇인지 이해되셨기를 바랍니다. 용어가 어려워 보일 뿐 그 생각 자체는 아주 단순합니다. 코드와 다른 자료는 영상 설명란을 확인해 주세요.