챗봇은 질문에 답합니다. AI 에이전트는 목표를 받아 여러분의 도구를 사용해 그 목표에 이르는 단계를 직접 수행합니다. **AI 동료(AI 코워커)**는 팀이 반복 업무를 맡기려고 설정해 둔 에이전트입니다. 참고할 출처와 권한의 범위가 분명하고, 결과를 확인하는 담당자가 있습니다.
셋을 구분하는 가장 쉬운 방법은 내가 무엇을 넘기고 있는지 생각해 보는 것입니다.
- 챗봇에게는 질문을 넘깁니다.
- 에이전트에게는 목표를 넘깁니다.
- AI 동료에게는 업무를 넘깁니다. 배경, 규칙, 어떤 상태가 "완료"인지, 그리고 누가 최종 승인하는지까지 포함해서요.
용어에 대해 한 가지 짚고 가겠습니다. "챗봇"은 어디서나 뜻이 거의 같습니다. "AI 에이전트"는 그렇지 않습니다. 회사마다 정의가 다릅니다. "AI 동료"("AI 팀원", "AI 직원"도 마찬가지)는 대부분 제품에서 쓰는 표현입니다. 특별한 종류의 AI가 아니라, 소프트웨어와 함께 일하는 방식을 가리킵니다.
비교표의 에이전트가 실제로 어떻게 일하는지는 목표·배경 정보·도구 안내에서 결과를 확인하는 과정까지 살펴볼 수 있습니다. 반복 업무를 맡기는 쪽에 관심이 있다면 AI 팀원에게 업무를 넘기는 방법을 읽어 보세요. 요청을 명확히 쓰고, 결과를 검토하고, 잘된 방법을 저장해 다시 쓰는 과정을 구체화하는 데 도움이 됩니다.
AI 에이전트 vs 챗봇 vs AI 동료 한눈에 비교
| 챗봇 | AI 에이전트 | AI 동료 | |
|---|---|---|---|
| 넘기는 것 | 질문 | 목표 | 반복되는 업무 |
| 정보를 찾는 쪽 | 나 | 에이전트 | 에이전트(합의한 출처에서) |
| 돌려받는 것 | 답변 | 완성된 결과물 | 확인만 하면 되는 결과물 |
| 다음 결정은 누가 | 나 | 일부는 에이전트 | 미리 합의됨 |
| 잘 맞는 일 | 간단한 질문 | 조사와 브리프 작성 | 주간 보고서, 문의 분류 |
많은 도구가 여러 열의 역할을 동시에 할 수 있습니다. 정말 중요한 질문은 이것입니다. 답을 받은 뒤에 무엇이 더 일어나야 하는가?
챗봇이란?
챗봇은 대화할 수 있는 소프트웨어입니다. 글을 입력하거나 말을 걸면 답을 해 줍니다. IBM은 챗봇을 두 종류로 설명합니다. 정해진 시나리오를 따르는 기존 챗봇과, 일상적인 언어를 이해하고 스스로 답변을 만들어 내는 AI 챗봇입니다.
이 아이디어는 오래되었습니다. Joseph Weizenbaum이 만든 ELIZA는 1966년에 발표되었고, 글로 대화를 이어 갈 수 있었습니다. 하지만 대화 밖에서는 아무것도 할 수 없었습니다. 요즘 챗봇은 훨씬 글을 잘 쓰지만, 상당수는 같은 한계를 안고 있습니다. 답변이 끝나면 일도 거기서 멈춥니다.
실제로는 이런 모습입니다. 채팅 어시스턴트에게 "다음 커피챗이 언제야?"라고 물어도 답하지 못합니다. 내 캘린더를 볼 수 없기 때문입니다. Jeff Su는 인기 있는 해설 영상에서 바로 이 예를 듭니다.
YouTube · Jeff Su
AI Agents, Clearly Explained(AI 에이전트 쉽게 이해하기) · 2025년 4월 8일
쉬운 말로 풀어낸 입문 영상입니다. 커피챗 예시를 통해 채팅 어시스턴트가 내 캘린더에 관한 질문에 답하지 못하는 이유를 보여 줍니다.
그렇다고 챗봇이 나쁘다는 뜻은 아닙니다. 답변만 있으면 충분한 경우가 많습니다.
- 웹사이트 방문자가 반품 정책을 묻는다.
- 신입 직원이 경비 규정이 어디 있는지 묻는다.
- 웨비나 초대 메일 제목 후보가 다섯 개 필요하다.
어느 경우든, 답변을 읽고 다음 단계를 진행하는 것은 사람입니다.
AI 에이전트란?
AI 에이전트는 목표를 향해 스스로 일하는 소프트웨어입니다. 단계를 직접 정하고, CRM이나 받은편지함 같은 도구를 사용하고, 진행 상황을 점검하면서, 일이 끝나거나 여러분의 판단이 필요할 때까지 계속 작업합니다.
Google Cloud는 에이전트를 사용자를 위해 목표를 추구하고 작업을 완료하는 시스템으로 정의합니다. Anthropic은 유용한 기준을 하나 덧붙입니다. 단계를 사람이 미리 정해 두었다면 워크플로이고, AI가 스스로 단계를 정한다면 에이전트라는 것입니다.
IBM 연구원 Maya Murad의 간단한 예가 이를 구체적으로 보여 줍니다. AI 모델에게 남은 휴가가 며칠인지 물으면 틀린 추측을 합니다. 내가 누구인지 모르기 때문입니다. 인사 시스템에 연결하면 답을 찾아볼 수 있습니다. 여행에 자외선 차단제를 얼마나 챙겨 가야 하는지처럼 더 어려운 질문을 하면, 계획을 세워야 합니다. 남은 휴가 일수를 확인하고, 날씨를 확인하고, 건강 관련 지침을 확인한 다음 계산하는 것이죠. 이렇게 계획하고 찾아보는 과정이 에이전트를 에이전트로 만듭니다.
YouTube · IBM Technology
What are AI Agents?(AI 에이전트란?) 출연: Maya Murad · 2024년 7월 15일
AI의 자율성을 눈금을 움직이듯 연속적인 것으로 설명합니다. 단순하고 예측 가능한 작업에는 정해진 단계를, 복잡하고 매번 다른 작업에는 에이전트를 쓰는 식입니다. 에이전트가 어떻게 작동하는지를 설명하는 영상이며, 지금 어떤 제품이 앞서 있는지를 다루지는 않습니다.
바로 써먹을 수 있는 간단한 테스트가 있습니다. 정보를 채팅창에 복사해 넣고 답변을 다시 복사해 나온다면 챗봇을 쓰고 있는 것입니다. 소프트웨어가 필요한 것을 직접 가져오고 다른 앱에서 다음 단계까지 진행한다면 에이전트를 쓰고 있는 것입니다.
에이전트는 그냥 더 똑똑한 모델일까?
대부분 그렇지 않습니다. 같은 AI 모델이 챗봇 뒤에도, 에이전트 뒤에도 있을 수 있습니다. 차이는 무엇을 하도록 허용하느냐입니다. 어떤 도구를 쓸 수 있는지, 무엇을 바꿀 수 있는지, 여러 단계를 거치며 스스로 점검할 수 있는지가 다릅니다.
Andrew Ng은 2024년 강연에서 이를 잘 표현했습니다. AI에게 한 번에 답을 내놓으라고 하는 것은 누군가에게 "without ever using backspace"(번역: 백스페이스를 한 번도 쓰지 않고) 에세이를 쓰라고 하는 것과 같다는 겁니다. 개요를 잡고, 조사하고, 초안을 쓰고, 고치게 하면 결과가 훨씬 좋아집니다.
이 분야의 제품은 빠르게 바뀝니다. OpenAI는 2025년 7월 ChatGPT에 에이전트 모드를 선보였고, 2026년 11월에는 이를 ChatGPT Work로 대체했습니다. OpenAI는 ChatGPT Work를 "an agent for longer, more involved tasks"(번역: 더 길고 복잡한 작업을 위한 에이전트)라고 설명합니다. 제품 이름은 생겼다 사라집니다. 하지만 답하는 것과 실제로 해내는 것의 차이는 그대로입니다.
AI 동료란?
AI 동료는 팀이 정해진 역할을 맡은 동료처럼 대하는 에이전트입니다. 차이를 만드는 것은 세 가지입니다.
- 반복되는 업무를 맡습니다. 일회성 요청이 아니라 "갱신 미팅 전마다 브리프 준비하기" 같은 일입니다.
- 팀의 출처를 바탕으로 일합니다. 고객과의 히스토리, 지난 결정 사항, 모두가 이미 쓰고 있는 양식 같은 것들입니다.
- 할 수 있는 범위가 분명합니다. 무엇을 읽을 수 있는지, 무엇을 바꿀 수 있는지, 무언가가 밖으로 나가기 전에 사람이 무엇을 확인해야 하는지를 누군가 정해 두었습니다.
범위는 능력만큼 중요합니다. 좋은 AI 동료 설정은 AI가 혼자서 하면 안 되는 일로 정의됩니다.
Okou의 관점. 저희는 Okou를 비즈니스 팀을 위한 AI 팀원으로 만들고 있습니다. 실제로는 Okou가 다음 세 가지를 잘 해내려고 합니다(Okou란?).
- 올바른 맥락을 사용합니다. 움직이기 전에 그 업무에 필요한 것을 모읍니다. 고객의 이메일, CRM 기록, 지난 분기 메모, 최근 공개 정보 등입니다.
- 올바른 형식으로 전달합니다. 누군가 결정을 내려야 할 때는 짧은 메시지로, 세부 내용을 검토해야 할 때는 문서로, 고객에게 답장이 필요할 때는 이메일 초안으로 전달합니다.
- 좋은 방식을 반복할 수 있게 합니다. 효과가 있었던 방법을 워크플로(workflow)로 저장해 두면, 팀원이 자기 계정으로 실행할 수 있습니다.
이 글의 아이디어를 활용하는 데 Okou가 꼭 필요하지는 않습니다. 다만 이것이 저희가 생각하는 방식이고, 아래 예시도 같은 패턴을 따릅니다.
흔히 하는 오해 네 가지
"단계를 많이 실행하면 에이전트다." 꼭 그렇지는 않습니다. 모든 단계를 사람이 미리 정해 두었다면, 아무리 길어도 자동화된 워크플로입니다. 그리고 그건 대개 좋은 일입니다. 정해진 단계는 예측하기 쉬우니까요.
"에이전트를 쓰면 사람이 관여할 필요가 없다." 아닙니다. 에이전트를 만드는 사람들조차 단순하게 시작하고, 중요한 결정에는 사람이 계속 관여하라고 권합니다.
"AI 동료는 모든 사람의 계정을 볼 수 있다." 그래서는 안 됩니다. 방법을 공유하는 것과 접근 권한을 공유하는 것은 다릅니다. Okou에서 워크플로를 공유하면 지침과 참고 파일이 공유될 뿐, 만든 사람의 받은편지함이나 로그인 정보, 개인 채팅은 공유되지 않습니다. 팀원은 각자 자신의 연결로 실행합니다.
"챗봇은 끝났다." 자주 묻는 질문에 답하는 용도라면, 잘 만든 챗봇이 에이전트보다 저렴하고 통제하기도 쉽습니다. 일을 해낼 수 있는 것 중 가장 단순한 것을 쓰세요.
같은 업무, 세 가지 방식: 조사 업체 선택하기
운영 책임자가 조사 업체 후보 목록이 필요하다고 가정해 보세요. 브리프에는 예산 상한, 필수 납기, 검토 전에는 어떤 업체에도 연락하지 않는다는 규칙이 있습니다. 이는 설명을 위한 비교이며 특정 고객에 대한 주장이 아닙니다.
챗봇: 자료와 질문을 넘기기
책임자가 제안서 세 개를 붙여 넣고 비교를 요청합니다. 챗봇은 차이를 설명하고 유용한 질문 초안을 작성할 수 있습니다. 빠진 납기 정보가 자료에 없다면 없다고 말해야 합니다. 모든 입력 자료가 이미 눈앞에 있는 일회성 비교라면 이 정도로 충분할 수 있습니다.
AI 에이전트: 조사 목표를 넘기기
책임자는 승인된 폴더를 읽고 각 제안서를 브리프와 대조한 뒤 출처가 있는 후보 목록을 달라고 요청합니다. 적절한 도구와 접근 권한이 있으면 에이전트는 자료를 직접 수집하고 어떤 누락 사항을 확인할지 판단할 수 있습니다. "업체 조사"를 업체에 연락하거나 견적을 수락하거나 돈을 쓸 권한으로 바꿔 해석해서는 안 됩니다.
AI 동료: 인계 방법을 재사용 가능하게 만들기
팀은 다음 동료도 같은 방법을 따르기를 원합니다. 필요한 근거, 비교 형식, 연락 규칙을 담은 워크플로를 저장합니다. 동료가 실행하면 그 동료 자신의 계정과 권한이 적용됩니다. 방법을 공유해도 처음 책임자의 받은편지함이 공유되지는 않습니다.
결과물은 하나의 표입니다. 업체, 견적 가격, 납기, 출처, 미해결 질문을 담습니다. 날짜가 확인되지 않은 제안서는 "아마 기한 내 가능"이 아니라 알 수 없음으로 남겨 둡니다. 각 판단의 이유가 입력 자료로 연결되므로 검토자는 조사를 처음부터 다시 하지 않고도 순위에 이의를 제기할 수 있습니다.
일부 채팅 제품에도 에이전틱 모드가 있으므로, 이는 엄격한 제품 분류가 아니라 업무를 구성하는 방식입니다. 충분한 맥락, 유용한 결과, 통제권을 제공하는 가장 간단한 방식을 선택하세요.
일이 꼬이는 건 인수인계에서다
다른 사람의 프로젝트를 넘겨받아 본 사람이라면 압니다. 전달받은 것만 알 수 있다는 것을요. AI도 마찬가지입니다. 2026년 11월에 올라온 두 게시물이 서로 다른 입장에서 이 점을 짚었습니다. 연구가 아니라 의견이지만, 저희가 실제로 보는 것과 일치합니다.
X · Aaron Levie (@levie), Box CEO · 2026년 11월 6일
"Every AI agent deployment comes down to how successfully they can get access to the critical context…"(번역: 모든 AI 에이전트 도입은 결국 핵심 맥락에 얼마나 잘 접근할 수 있느냐로 귀결된다…)
X · Alexander Yue (@Alezander9), Mainplane 창업자 · 2026년 11월 6일
"…all summaries are lossy. This is how your assistant makes emails you never wanted…"(번역: …모든 요약은 정보를 잃는다. 그래서 어시스턴트가 전혀 원하지 않던 이메일을 만들어 낸다…)
Okou에서는 같은 채팅 안에서라면 이전 메시지와 파일을 계속 활용할 수 있습니다. 새 채팅은 이전 채팅을 지정하지 않는 한 처음부터 시작합니다. 그러니 가장 안전한 습관은 출처와 규칙을 워크플로 자체에 넣어 두는 것입니다.
사람이 책임을 지는 지점
일을 AI에게 맡긴다고 책임까지 넘어가지는 않습니다. 반복 업무를 켜기 전에 한 가지 질문에 답해 보세요. 이것이 밖으로 나가기 전에, 어느 시점에 사람이 확인하는가?
대부분의 팀에 적합한 기본값은 다음과 같습니다.
- AI가 읽는 것은 그 업무에 필요한 것까지만 허용합니다.
- 브리프, 이메일, 변경 제안은 초안으로 준비하게 합니다.
- 특정 작업을 자동화해도 안전하다고 판단한 경우가 아니라면, 발송, 게시, 결제, 삭제는 사람이 합니다.
직장에서의 AI 활용에 대해 글을 쓰는 와튼스쿨 교수 Ethan Mollick도 자신의 에이전트에 비슷한 선을 긋습니다.
X · Ethan Mollick (@emollick), 와튼스쿨 교수 · 2026년 10월 15일
"I don't want it using my email or drafting messages on my behalf…"(번역: 내 이메일을 쓰거나 나 대신 메시지 초안을 작성하는 건 원하지 않는다…)
그의 해결책은 에이전트에게 전용 이메일 주소를 주는 것이었습니다. 그러면 상대방이 AI와 대화하고 있다는 것을 알 수 있습니다. 여러분의 선은 다를 수 있습니다. 마지막에 사람이 보내기만 한다면 에이전트가 자기 이름으로 초안을 써도 괜찮다는 팀도 많습니다. 중요한 것은 그 선을 의도적으로 정하는 것입니다.
좋은 도구는 그 선을 직접 정할 수 있게 해 줍니다. Okou에서는 작업에 새로운 권한이 필요할 때, 사람이 정확히 무엇을 요청하는지 확인하고 얼마나 오래 허용할지 선택합니다. 저희의 권한 가이드는 가능하면 읽기 또는 초안 작성 권한만 허용하라고 권장합니다.
Okou는 새 권한을 쓰기 전에 먼저 묻습니다. 사람이 요청 내용을 확인하고 1시간 같은 기한을 고릅니다. 스크린샷 원본 크기로 보기
선택 방법: 챗봇, 에이전트, AI 동료 중 무엇을 쓸까?
도구가 아니라 업무에서 출발하세요. 네 가지 질문이면 대부분의 경우를 판단할 수 있습니다.
업무에 맞는 도움을 고르세요. 대부분의 팀은 세 가지를 모두 씁니다.
- 답을 받고 직접 행동할 건가요? 챗봇을 쓰세요. 계약 조항 설명, 문단 다시 쓰기, 이름 아이디어 브레인스토밍 같은 일입니다.
- AI가 찾아낸 내용에 따라 다음 단계를 골라야 하나요? 에이전트를 쓰세요. 예를 들어 CRM, 고객 지원, 이메일을 넘나들며 한 고객의 상황을 조사하는 경우입니다. 경로가 미리 정해져 있다면 AI 워크플로로도 충분할 수 있습니다.
- 합의된 출처, 규칙, 담당자가 있는 반복 업무인가요? 그렇다면 AI 동료 설정입니다. 예를 들어 월요일 파이프라인 리뷰나 데모 후마다 하는 후속 연락이 있습니다. 일정은 일을 시작시킬 뿐, 업무 내용이나 권한을 정의하지는 않습니다.
- 누가 최종 승인하나요? 모든 에이전트 업무와 AI 동료 업무에 대해 이 질문에 답하세요. 아무도 답하지 못한다면 아직 맡길 준비가 되지 않은 것입니다.
팁 하나 더: 시간을 주세요. 같은 강연에서 Andrew Ng은 에이전트를 너무 일찍 들여다보는 것을, 일을 맡기고 5분 뒤에 진행 상황을 묻는 신임 매니저에 비유합니다. 처음 1분이 아니라 완성된 결과물로 판단하세요.
Okou에서는 이렇게 됩니다
Okou의 팀 가이드는 한 번의 좋은 결과가 팀의 습관이 되기까지의 과정을 설명합니다. 먼저 직접 업무를 한 번 해 보고, 그 방법을 워크플로로 저장하고, 팀에 공유한 뒤, 각자 자신의 계정을 연결하게 하는 것입니다.
- 워크플로에는 방법을 담습니다: 단계, 출처, 형식, 검토 규칙.
- 자동화(automation)는 타이밍을 더합니다: 일정, 새 이메일, 캘린더 변경이 업무를 시작시킵니다.
- 팀이 대화하는 곳에서 일이 진행됩니다: Slack에서 Okou를 @멘션하거나 Okou에게 직접 메시지를 보낼 수 있습니다.
- 일은 클라우드에서 계속 실행됩니다: 노트북을 닫아도 오래 걸리는 작업은 계속됩니다.
- 이메일은 보내기 전까지 초안으로 남습니다: Okou가 후속 이메일을 Gmail 초안으로 작성하면, 사람이 검토하고 보내기 버튼을 누릅니다.
저장된 워크플로에 일정이나 트리거를 추가하는 모습. 일부 트리거 유형은 특정 워크스페이스에서만 사용할 수 있습니다. 스크린샷 원본 크기로 보기
갱신 브리프 예시를 직접 해 보려면, 실제 고객 한 곳을 정해 채팅에서 시작하세요. 브리프가 괜찮아 보이면 워크플로로 저장한 다음 일정을 추가합니다. 더 많은 아이디어는 실무에 쓰는 AI 에이전트 활용 사례 20가지를 참고하세요. 승인에 관해서는 최종 결정권이 왜 우리 회사에 있어야 하는가를 읽어 보세요. 공유 맥락을 정확하게 유지하는 방법은 팀을 위한 AI 에이전트 맥락 관리에서 확인할 수 있습니다. AI가 어시스턴트에서 동료로 옮겨 가는 더 긴 이야기는 코파일럿에서 동료로를 참고하세요.
자주 묻는 질문
AI 에이전트와 챗봇의 가장 큰 차이는 무엇인가요?
챗봇은 답을 하고, 다음 단계는 내가 합니다. AI 에이전트는 목표를 받아 내 도구를 사용해 정보를 모으거나 작업을 수행하고, 완성된 결과물을 돌려줍니다. 밑바탕의 AI 모델은 같을 수 있습니다. 달라지는 것은 무엇을 하도록 허용되느냐입니다.
ChatGPT는 챗봇인가요, AI 에이전트인가요?
어떻게 쓰느냐에 따라 둘 다입니다. 일반적인 ChatGPT 대화는 챗봇입니다. 묻고, 답을 받습니다. OpenAI는 더 긴 작업을 위한 에이전트형 모드도 제공하며, 2026년 11월 기준으로는 ChatGPT Work가 그것입니다. 무엇이라고 부를지는 이름이 아니라 도구가 실제로 무엇을 하고 있는지에 따라 정해집니다.
AI 동료와 AI 에이전트는 같은 것인가요?
AI 동료는 특정한 반복 업무를 위해 설정된 AI 에이전트로, 팀의 출처를 사용하고, 범위가 분명하며, 결과를 확인하는 사람이 있습니다. "동료", "팀원", "직원"은 제품에서 쓰는 표현이지 기술 표준이 아니므로, 해당 제품이 실제로 무엇을 하는지 확인하세요.
AI 에이전트와 AI 어시스턴트는 어떻게 다른가요?
AI 어시스턴트는 보통 요청이 있을 때 한 사람을 돕습니다. 초안 작성, 요약, 질문 답변 같은 일입니다. AI 에이전트는 한발 더 나아가 도구를 사용해 목표를 향한 단계를 실행합니다. 두 용어는 겹치는 부분이 있고, 요즘은 에이전트 기능을 갖춘 어시스턴트도 많습니다.
챗봇이 AI 에이전트가 될 수 있나요?
네. 도구와 데이터에 접근할 수 있게 하고 여러 단계를 거쳐 일하도록 허용하면 됩니다. 더 어려운 부분은 무엇을 읽게 할지, 무엇을 바꾸게 할지, 누가 결과를 승인할지 정하는 것입니다.
AI 에이전트가 챗봇을 대체할까요?
대부분의 팀에서는 그렇지 않을 것입니다. 간단한 질문이나 고객의 기본적인 FAQ는 챗봇으로 충분히 처리할 수 있고, 통제하기도 더 쉽습니다. 에이전트와 AI 동료 설정은 여러 곳에서 정보를 모으고, 끝까지 후속 조치를 하거나, 일정에 따라 반복해야 하는 일에 적합합니다.
