[BARO-Tech] CES에서 젠슨 황이 말한 ‘기업과 AI 에이전트의 미래’

2025. 02. 13


엔비디아(NVIDIA)의 젠슨 황 CEO,
“기업에 AI 에이전트를 도입할 시대가 찾아왔습니다”


CES2025, RTX50 시리즈를 발표하는 자리에서 인공지능 에이전트에 대해 설명하는 엔비디아 CEO 젠슨 황


세계 최대 전자·IT 전시회 ‘CES 2025’의 기조연설(Keynote)에서 엔비디아의 젠슨 황 CEO는 에이전틱 AI(Agentic AI)의 시대가 드디어 도래했다고 강조했어요. 



이제 모든 조직에서 활용 가능한 AI 에이전트 시대가 도래했습니다.
전 세계의 수백만 명의 소프트웨어 엔지니어가 소프트웨어 AI Assistant (AI 조수)를 통해 코딩 작업을 더 빠르게 진행할 수 있을 겁니다. 그렇지 않으면 생산력이 크게 떨어질테니까요.

앞으로 몇 년 안에 인류가 생산해 낸 데이터가 인류 역사상 지금까지 생산한 데이터보다 더 많아질 것입니다. 이미지와 소리 등 모든 데이터는 AI 의 기본 지식, 즉 기초 지식을 훈련하는 데 활용될 수 있으며, 이에 따라 필요한 계산량은 엄청날 것입니다.

우리는 점점 더 큰 모델을 훈련시키고자 하며, 이를 위해 막대한 계산량이 필요합니다. 미래에는 AI 가 스스로 말하고, 생각하며, 내부적으로 반영하여 데이터를 처리할 수 있게 될 겁니다. 또한 AI 에이전트는 본질적으로 직원과 함께 일하는 디지털 인력으로 자리 잡아, 고객을 대상으로 한 다양한 작업을 대신 처리하게 될 것입니다.

이러한 전문 AI 인력을 회사에 도입하려면, 직원 채용과 마찬가지로 회사의 언어와 업무 방식에 맞춰 AI 에이전트를 훈련해야 할 것입니다. AI 에이전트는 아마도 차세대 로봇 산업으로 자리 잡아, 수조 달러 규모의 기회를 창출할 가능성이 높습니다.


—Jensen huang, 2025.01.06






생성형 AI의 다음단계, ‘AI 에이전트’ 란? 


생성형 AI와 AI 에이전트의 차이점은 자율성, 목표지향성, 적응성임을 비교하는 표


GPT 같은 기존의 생성형 AI(Generative AI)나 챗봇은 사용자가 단어와 숫자로 이루어진 텍스트를 출력 받는 걸 전제로 LLM(Large Language Models)으로 설계됐어요. 사용자가 어떤 프롬프트에 무엇을 입력하든 AI 챗봇은 텍스트로 답변하는 방식이죠.

하지만 AI 에이전트는 달라요. 환경과 상호작용하며 데이터를 수집하고, 사전에 결정된 목표를 달성하기 위해 필요한 작업을 스스로 판단하고 수행할 수 있어요. 



환경과 반응, 메모리, 사교적 능력, 능동적 활동, API 및 함수 호출, 자율 행동과 인간의 제어 등 AI가 외부 환경을 인식하고, 기억을 활용하며, 사람과 상호작용하고, 능동적으로 행동하며 도구를 사용하는 과정을 설명하는 AI 에이전트 개념도



필요한 작업을 스스로 결정해 수행하는 게 특징인 AI 에이전트는 기업에서도 활발히 활용되고 있어요.

예를 들어, “오늘 3시에 1번 회의실로 미팅을 잡아줘” 라고 하면 AI 챗봇은 회의실 예약 방법을 텍스트로 설명하는 데에서 그치지만, AI 에이전트는 스스로 상황을 파악해 회의실을 예약하고 미팅 참석자들에게 초대 메일을 보내죠. 

그 외에도 분산된 정보를 수집하거나, 각종 서류 제출, 일정 관리, 데이터 입력 등 업무 프로세스를 처음부터 끝까지 처리해 프로세스를 간소화할 수 있어요. 고객 응대도 스스로 할 수 있으며, 대량의 데이터를 실시간으로 분석하는 머신러닝을 활용해 광고 캠페인을 실행하거나 시장을 빠르고 정확하게 분석하여 제품 수요를 예측할 수 있어요.

사람의 개입 없이도 작업을 수행하는 자율 지능형 시스템, AI 에이전트를 통해 반복적인 작업은 AI에게 맡기고 창의적인 활동에만 집중할 수 있어요. 이를 통해 프로세스의 비효율성과 인적 오류로 인한 불필요한 비용도 줄일 수 있죠.





AI 에이전트의 새로운 패러다임, 오픈AI의 딥 리서치.

기존 ChatGPT, 딥 시크보다 3배 정확한 추론을 하는 AI 모델을 발표했어요! 

2025년 2월, OpenAI 가 출시한 '딥 리서치(Deep Research)'는 인터넷 검색과 추론 능력을 결합해서 복잡한 연구 작업을 자동화하고 효율적으로 진행할 수 있도록 도와줘요. 금융, 과학, 정책, 엔지니어링 같은 지식이 많이 필요한 분야에서 심층적이고 정확한 연구를 하고 싶은 사람들을 위해 만들어졌다는 게 특징이에요.

또, 자동차나 가전제품, 가구처럼 신중하게 비교하고 사야 하는 제품을 개인 맞춤형으로 추천할 수도 있어서 쇼핑할 때도 유용하게 쓸 수 있어요. 여러 웹사이트를 돌아다녀야 하는 틈새시장 정보를 찾을 때도 효과적이죠. 복잡하고 시간 많이 드는 웹 검색을 단 하나의 쿼리로 빠르게 처리할 수 있어서, 귀찮은 작업을 덜고 시간을 아낄 수 있어요.

딥 리서치는 올해 출시될 예정인 o3 모델의 특별 버전으로 작동해요. (현재는 o3-mini 모델만 출시됐어요!) 텍스트, 이미지, PDF 파일 같은 방대한 데이터를 검색하고 해석하면서, 필요에 따라 방향을 전환하는 추론 능력도 갖추고 있죠. 웹에서 정보를 찾고, 추론하고, 통합하는 AI 인데, OpenAI 의 기존 AI o1 모델과 동일한 강화 학습 방법을 사용해서 브라우저랑 Python 도구 활용법도 배웠다고 해요. 원래 o1 모델이 코딩이나 수학 같은 기술 분야에서는 뛰어났지만, 실제 문제를 해결하려면 방대한 정보를 모으는 게 필요했거든요. 딥 리서치는 바로 이 부분을 해결해서 다양한 문제 해결을 지원하는 역할을 해요.


GPT-4o, Grok-2, Claudw 3.5 Sonnet, Gemini Thinking, OpenAI o1, DeepSeek-R1, OpenAI o3-mini (medium), OpenAI o3-mini (high), OpenAI deep research 인류 마지막 시험 HLE에서의 정확도 테스트를 측정한 결과표

출처=OpenAI


또, OpenAI CEO 샘 알트먼이 "딥시크보다 뛰어난 모델을 선보일 것"이라고 예고한 만큼, 딥 리서치를 구동하는 o3 모델은 굉장히 똑똑해요. AI 성능을 평가하는 가장 어려운 시험 중 하나인 스케일AI의 ‘인류의 마지막 시험(Humanity's Last Exam, HLE)’에서 26.6%의 정확도를 기록했어요. 기존의 오픈AI o1, o3-mini뿐만 아니라, ‘딥시크-R1’(9.4%)보다도 2.8나 높은 점수를 받은 거죠.

HLE 는 다양한 학문 분야에서 전문가 수준의 문제 3000개 이상을 포함한, 현존하는 벤치마크 중 가장 난이도가 높은 시험이에요. 특히 2024년 9월 발표된 o1 모델과 비교했을 때, 화학, 인문·사회과학, 수학 분야에서 성능이 크게 향상됐다고 해요. 그리고 '제미나이 싱킹(6.2%)', '그록-2(3.8%)', 'GPT-4o(3.3%)*보다도 몇 배 이상 높은 정확도를 기록했죠.


오픈AI 챗GPT에서의 딥 리서치 사용법


사용법도 간단해요! 프롬프트를 입력한 뒤 옵션을 선택하고, 파일이나 스프레드시트를 첨부하면 돼요. 답변을 받는 데는 5~30분 정도 걸리고요. 앞으로는 이미지·그래프 생성 기능과 기업 내부 데이터 연결 기능도 추가될 예정이라고 해요.

딥 리서치는 최신 시장 동향 조사, 기술 종합 보고서 작성, 정부 법률·규제 분석 같은 업무에도 활용할 수 있어요. 예를 들어, 시장 트렌드와 경쟁사를 빠르게 분석하거나, 최신 기술과 특허 정보를 정리해서 연구개발(R&D) 효율성을 높일 수 있죠. 또, 정부 정책이나 법률, 규제 분석을 통해 정책 결정자들이 필요한 정보를 쉽게 얻을 수도 있어요.

오픈AI는 "지식을 종합하는 능력은 새로운 지식 창출의 핵심"이라며, 딥 리서치가 AGI(인공일반지능) 개발을 향한 중요한 단계라고 강조했어요. 앞으로 딥 리서치를 통해 새로운 과학 연구를 만들어낼 수 있을 거라고 기대하고 있죠.






AI 에이전트 개발의 선두주자, 마이크로소프트의 오토젠 

요즘 AI 라고 하면 그냥 질문 던지고 답변 받는 챗봇만 떠오르기 쉬워요.
하지만 오토젠은 다릅니다. 이 시스템에서는 여러 AI 에이전트가 각기 다른 역할을 맡아 협력하며 문제를 해결합니다. 마치 전문가들이 모여 의견을 조율하며 공동 작업을 하는 것과 유사합니다.

대표적인 예로 마이크로소프트(Microsoft)가 개발한 오픈소스 AI 프레임워크, 오토젠(AutoGen)이 있습니다. 2025년 1월 14일에 발표된 v0.4 업데이트는 에이전트 중심 AI 시스템의 확장성, 유연성, 안정성을 대폭 개선한 것이 특징이죠. 

특히나 개발자 커뮤니티의 피드백을 적극 반영해 설계되었어요. 기존 버전에서 제기되었던 제한적인 아키텍처, 비효율적인 API, 디버깅 기능 부족 등의 문제를 해결하기 위해 비동기 이벤트 구동형 아키텍처를 도입했습니다. 쉽게 말하자면, 필요할 때만 효율적으로 작동하는 자동화 시스템이죠. 이를 통해 AI 에이전트들이 실시간으로 정보를 주고받으며 유기적으로 협력할 수 있어요. 

그 외에도 레고 블록처럼 필요한 부분만 수정할 수 있는 모듈식 구성요소, 소스코드의 오류 또는 버그 수정이 더욱 용이해지는 강화된 디버깅 도구, AI 의 동작을 실시간으로 모니터링하고 분석해 똑똑하게 조정하는 오픈 텔레메트리 지원, 에이전트 간 상호작용을 실시간으로 모니터링하고 분석할 수 있습니다. 덕분에 개발자들은 시스템의 동작을 더 깊이 이해하고, 문제를 보다 신속하게 해결할 수 있는 다양한 새로운 기능도 제공하기 시작했어요. 이러한 강력한 기능들로 사용자들은  장기 실행형 AI 에이전트를 쉽게 구축할 수 있죠. 


마이크로소프트의 오토젠 v0.4의 앱과 프레임워크 간 가동방식


마이크로소프트는 오토젠 v0.4를 시작으로 에이전트 기반 AI 연구 및 응용 분야에서 지속적인 혁신을 이어갈 예정이에요. 더 많은 내장형 애플리케이션과 확장 프로그램을 제공하고, 커뮤니티 중심의 생태계를 구축하며 책임 있는 AI 개발에도 힘쓸 계획입니다. 사용자와 개발자들은 공식 디스코드 서버와 깃허브(GitHub)를 통해 피드백을 주고받을 수 있을 것으로 기대되고 있어요.  


AI 에이전트를 개발하고자 하는 사람들은 오토젠을 도입해, 연구의 장벽이 더욱 낮출 수 있는거죠. 




AI 에이전트가 인간을 대체할까? 


AI 에이전트는 단순한 자동화 도구를 넘어서 인간만의 고유 역량인 공감, 윤리적 의사결정, 창의성 등이 직장에서 더욱 중요해지는 계기를 제공할 거예요. 이는 "AI가 인간의 역할을 대체할 것"이라는 기존의 우려와는 달리, 인간과 AI가 서로 보완하며 미래의 직업 환경을 함께 만들어갈 가능성을 보여주고 있어요.

워크데이는 22개국의 2,500명 정규직 근로자를 대상으로 AI 도입과 그 영향에 대한 인사이트를 도출했어요. 조사 대상은 IT(25%), 인사(25%), 운영(24%), 재무(22%) 등 다양한 산업 종사자예요. 직급도 매니저(31%), 일반 직원(28%), 디렉터(21%), 부사장(11%), C-레벨 임원(9%) 등 고르게 분포되어 있어요. 전체 응답자의 59%가 AI 를 적극적으로 사용하고 있으며, 31%는 실험 단계에 있고, 10%는 향후 12개월 내 도입을 계획하고 있다고 밝혔죠.

그중에서도 AI를 적극 활용하는 직장인의 93%는 AI 덕분에 전략적 사고와 문제 해결 같은 고차원 업무에 더 집중할 수 있다고 응답했고, 90%는 AI가 조직 내 투명성과 책임성을 강화하는 데 중요한 역할을 한다고 동의했어요. 


AI는 업무 환경에서 인간의 역할에 더 많은 의미를 부여하며 인간 고유의 강점을 강조하게 될 거예요.

AI 에이전트가 업무에서 실질적으로 대체할 수 있는 역할이 있긴 하지만, 그 역할은 반복적이고 일상적인 작업에 국한되며, 창의적이고 비판적인 사고가 필요한 업무는 여전히 인간이 맡게 될 것으로 예상되고 있어요. AI는 데이터를 수집하고 분석하여 결정을 지원하고, 사람들은 더 나은 의사결정을 내릴 수 있도록 도와주는 역할을 수행하게 되는거죠. AI 에이전트는 단순한 자동화 도구에 그치지 않고, 인간의 능력을 보완하는 혁신적인 파트너가 될 거예요. AI와 함께 진화하는 미래의 직장에서는 인간과 AI가 함께 협력하여 더욱 혁신적이고 생산적인 환경을 만들어갈 수 있습니다!