정부가 스스로 계획을 수립하고 실행하는 '에이전틱 인공지능(AI)' 생태계를 선점하기 위해 국가 전략을 내놓았다.
과학기술정보통신부는 23일 개최한 제11회 과학기술관계장관회의에서 '에이전틱 AI 이니셔티브'를 발표했다.
'에이전틱 AI'는 목표에 따라 자율적이고 능동적으로 계획을 수립하고 실행하며 급속히 진화하고 있다. 산업 생태계 전반의 수익 구조와 서비스 방식을 바꾸고 개인의 생산성을 획기적으로 향상해 1인 기업 시대를 가능하게 하는 등 경제 구조를 재편하는 핵심 기술로 떠오르고 있다.
이에 따라 AI 경쟁의 축이 확대돼 지금까지는 경쟁력을 좌우할 핵심요소가 '누가 더 우수한 모델을 보유했는가'였다면 앞으로는 '누가 더 많은 데이터, 시스템, 업무 흐름을 연결하고 실행하는가'가 될 전망이다.
한국은 세계 최고 수준의 디지털 인프라와 제조·금융·공공 등 탄탄한 산업 기반을 보유하고 있어 '에이전틱 AI' 확산에 유리한 여건을 갖추고 있다.
실행 생태계 중심으로 전환되는 AI 패러다임 전환을 기회로 삼아 한국이 '에이전틱 AI' 생태계를 선점할 수 있게 '에이전틱 AI 이니셔티브'를 마련했다.
이번 이니셔티브는 '에이전틱 AI' 안전·신뢰 선도, 개방형 '에이전틱 AI' 실행 기반 조성, 수요 중심의 '에이전틱 AI' 도입 촉진을 3대 추진 전략으로 내세웠다.
'에이전틱 AI' 안전 및 신뢰 선도
'에이전틱 AI'는 외부 시스템과도 연동이 되고 실제 실행까지 수행한다는 점에서 파급효과가 생성형 AI보다 크다.
특히 권한 오남용, 보안 위협, 민감 데이터 유출 등 문제가 발생할 가능성도 있어 '에이전틱 AI'의 도입·활용에 있어서 안전·신뢰 확보는 필수다.
앤트로픽, 오픈AI, 구글 등은 에이전트 기능 출시와 함께 권한 범위 제한, 로그 기록 관리 등 안전 기능을 설계 단계부터 반영하는 추세다.
이에 따라 과기정통부는 '에이전틱 AI' 전주기에 적용할 수 있는 안전·신뢰 관리 체계를 확보한다.
이를 위해 개인정보·민감데이터 보호, AI 권한 관리, 목표 이탈 방지 등 '에이전틱 AI' 고유 위험 요소를 반영한 '에이전틱 AI 안전·신뢰 가이드라인'을 연내 마련한다.
아울러 '에이전틱 AI'의 성능 및 안전·신뢰성을 평가하기 위한 기반을 구축하고 AI 에이전트의 안전한 활용 및 행위 책임성 확보를 위해 ''에이전틱 AI 얼라이언스'를 중심으로 AI 에이전트 신원확인과 책임소재를 검토할 예정이다.
개방형 '에이전틱 AI' 실행 기반 조성
'에이전틱 AI'는 AI 모델이 외부 시스템·도구와 연결되어 실제 업무를 수행할 때 비로소 가치를 창출하므로 '에이전틱 AI' 시대의 경쟁력은 개방형 실행 생태계 구축 여부에 달려있다.
이에 과기정통부는 국내 환경에 맞는 AI 에이전트 도구, 유통 체계, 기술 및 모델을 확보한다.
국민이 일상이나 업무에서 반복 활용하는 생활 밀착형·고수요 AI 에이전트 서비스와 도구 개발을 지원하고, 신뢰할 수 있는 AI 에이전트 유통을 위한 마켓플레이스도 지원한다.
또한 AI 모델-추론-에이전트-도구 등 AI 핵심 요소를 통합 관리하는 AI OS 핵심 기술도 개발한다.
무엇보다 '에이전틱 AI'는 멀티에이전트 협업, 도구 활용, 반복 호출 등으로 높은 연산 자원을 요구하는 만큼 토큰 효율 기반 실행 운영 기술 확보를 추진한다.
국산 AI 모델의 '에이전틱 AI' 성능 강화를 위해 GPU와 에이전틱 데이터도 지원할 예정이다.
이를 통해 서비스 개발 기업이 다양한 AI 모델을 목적에 맞게 선택·활용할 수 있는 환경을 조성할 계획이다.
수요 중심 '에이전틱 AI' 도입 촉진
'에이전틱 AI'는 복합적인 업무를 자율적으로 수행할 수 있어 생산성 향상과 업무 혁신을 가져올 수 있어 국민과 산업 현장에서 체감할 수 있는 수요 중심의 '에이전틱 AI' 도입을 촉진한다.
'모두의 AI 프로젝트'로 국민 누구나 AI 에이전트를 활용할 수 있는 기반을 마련하고, 장기적으로 모든 국민이 자신만의 AI 에이전트로 일상과 경제활동 전반에서 새로운 가치를 창출할 수 있게 한다.
또한 AI 파운데이션 모델 기업, 인프라 기업, AI 서비스 개발사, 수요 기업 등 AI 가치사슬 전반이 참여하는 'AI 에이전트 플래그십 프로젝트'를 추진해 우리나라 주요 산업 분야의 '에이전틱 AI' 서비스 개발·실증을 지원한다.
기업의 AI 에이전트 개발·도입 역량을 강화하기 위해 도입 진단, 위험 관리, 운영 체계 수립 등 전문 컨설팅을 지원하고, 혁신 AI 에이전트 기술을 보유한 스타트업의 사업화도 지원한다.
이와 함께 '에이전틱 AI'의 자율 실행, 멀티에이전트 특성을 고려해 ICT 규제샌드박스를 활용한 실증 기회를 확대하고, 실증 결과를 기반으로 증거 기반의 '에이전틱 AI' 친화적 제도 개선을 단계적으로 추진한다.
과기정통부는 지난 4월 기술개발부터 산업 적용, 생태계 조성 및 안전·신뢰 확보까지 전 주기를 아우르는 국가 협력 플랫폼으로 '에이전틱 AI 얼라이언스'를 출범한 바가 있다.
이번 이니셔티브의 실행력을 뒷받침하기 위해 '에이전틱 AI 얼라이언스'를 중심으로 정책 세부 내용을 구체화하고, 빠르게 변화하는 기술 환경에 발맞춰 무빙타깃 방식으로 정책을 추진해 나갈 계획이다.
배경훈 부총리 겸 과기정통부 장관은 "'에이전틱 AI'는 단순한 기술 혁신을 넘어 일하는 방식과 경제·사회 전반의 변화를 이끄는 새로운 전환점이 될 것"이라며 "우리 국민과 기업이 '에이전틱 AI' 시대에 기회를 확보하고 새로운 가치를 창출할 수 있게 안전·신뢰 기반의 '에이전틱 AI' 생태계를 조성해 나가겠다"고 말했다.
문의: 과학기술정보통신부 디지털인재양성과(044-202-6373)
정책브리핑의 자료는 「공공누리 제1유형:출처표시」의 조건에 따라 자유롭게 이용이 가능합니다. 다만, 사진의 경우 제3자에게 저작권이 있으므로 사용할 수 없습니다. 기사 이용 시에는 출처를 반드시 표기해야 하며, 위반 시 저작권법 제37조 및 제138조에 따라 처벌될 수 있습니다. <자료출처=정책브리핑 www.korea.kr>