1. 에이전틱 로보틱스의 등장: 생각하고 행동하는 로봇 [0]

thumbnail 에이전틱 로보틱스는 로봇이 단순히 명령을 수행하는 것을 넘어, 목표를 스스로 해석하고 계획하며 상황을 판단하고 실패로부터 학습하여 자율적으로 사고하고 행동하는 로봇을 의미한다.

1.1. 기존 로봇과 에이전트 AI의 차이 [2]

  1. 기존 로봇의 한계 [2]
    1. 기존 로봇은 정해진 명령에 따라 정해진 행동을 수행하는 스마트한 기계였다 [7].
    2. 예를 들어, "문 열어", "컵 들어", "앞으로 가"와 같은 명령을 받으면 그대로 실행했다 [8].
  2. 에이전트 AI의 등장 [9]
    1. 에이전트 AI는 로봇이 목표를 스스로 해석하고, 계획을 세우며, 상황을 판단하고, 필요하면 계획을 수정하여 행동한다 [10].
    2. 이는 GPT 같은 AI가 글을 쓰는 것을 넘어 세상을 보고 생각하고 움직이기 시작한 흐름이다 [11].
  3. 에이전트와 에이전틱 AI의 구분 [15]
    1. 인공지능(GPT): 사용자의 질문에 답하는 단순한 질의응답 방식이다 [16].
    2. AI 에이전트: 목표를 주면 스스로 방법을 고민하고 계획하며 행동하는 AI이다 [19].
      1. 예를 들어, 마인크래프트에서 "다이아몬드를 캐와줘"라고 명령하면, 다이아몬드 위치를 추론하고, 곡괭이를 만들고, 자원이 부족하면 다시 모으고, 실패하면 새로운 전략을 세워 임무를 완수하려 노력한다 [21].
      2. 이는 오토 GPT, 베이비 AGI, 보이저와 같은 최신 AI 에이전트가 보여주는 행동이다 [25].
      3. AI 에이전트는 명령을 수행하는 AI가 아니라 문제를 해결하는 존재로 작동한다 [26].
      4. 가장 중요한 점은 사용자의 명령을 해석하는 것이 아니라, 사용자의 목표를 이해하고 달성하려는 일련의 사고와 행동을 수반한다는 것이다 [28].
    3. 에이전틱 AI: AI 에이전트에서 한 걸음 더 나아가 자율성이나 의사 결정 능력을 가진 존재이다 [29].
      1. AI 에이전트가 명령을 받으면 똑똑하게 실행하는 시스템이라면, 에이전틱 AI는 자기 판단과 목적을 가지고 움직이는 좀 더 자율적인 존재에 가깝다 [30].

1.2. 에이전틱 로보틱스의 정의 및 사례 [31]

  1. 에이전틱 로보틱스: 에이전틱 AI의 지능이 로봇이라는 몸을 가지기 시작한 것이다 [31].
    1. 에이전트 개념이 처음 탄생했을 때는 코드 분석, 문서 자동화, 웹 브라우저 조작 같은 가상 공간 업무 자동화에만 관심이 있었다 [33].
    2. 하지만 이제 에이전트가 로봇이라는 몸을 갖고 실제 세계 현실 공간에서 상호 작용하기 시작했다 [34].
  2. 대표적인 예시 [35]
    1. 오픈 AI의 보이저 프로젝트: 마인크래프트 게임 안에서 "다이아몬드를 찾아라" 같은 고차원적 목표를 받고 스스로 계획하고 도구를 만들고 실행하며, 실패하면 다시 계획을 짜는 과정을 반복하여 스스로 발전한다 [35].
    2. 엔비디아의 그루트 모델: 사용자의 언어 명령을 받아 로봇의 행동 계획을 세우고, 센서 데이터를 통해 주변 상태를 파악한 후 필요한 행동을 결정하여 실행한다 [37].
      1. 그루트는 로봇 팔, 로봇 개, 휴머노이드 등 다양한 로봇에 적용 가능한 범용 구조로 설계되어, AI가 로봇을 통합적으로 제어한다는 비전이 현실로 다가오고 있다 [39].
    3. 에이전트 모델: 시각 정보와 자연어 명령을 동시에 받아들이고, 상황에 맞게 유연하게 행동을 생성하며, 실패하면 피드백을 반영하여 다른 방식으로 다시 시도할 수 있다 [40].

2. 에이전틱 로보틱스의 핵심 기술 계층 [42]

thumbnail 에이전틱 로보틱스는 멀티모델 인지, 목표 해석 및 계획, 행동 구체화, 기억 및 문맥 유지, 자기 반성 학습의 다섯 가지 핵심 계층을 통해 자율적으로 사고하고 행동하며 학습한다.

2.1. 멀티모델 퍼셉션 레이어: 세상을 이해하는 눈과 귀 [60]

  1. 역할: 에이전틱 로보틱스의 시작은 세상을 정확히 인식하고 해석하는 능력에서 출발하며, 단순히 센서 데이터를 받아오는 것을 넘어 의미로 해석하는 것이 핵심이다 [60].
    1. 기존 로봇 시스템: 센서 모듈이 비전, 음성, 포스, IMU 등으로 각각 분리되어 있었고, 데이터는 사전 정의된 알고리즘에 의해 처리되었다 [62].
      1. 예를 들어, RGB 이미지에서 컵을 찾으면 XYWH 값과 클래스 ID로만 해석되었다 [63].
    2. 에이전틱 로보틱스: 컵인지, 음성 명령과 어떤 관계가 있는지, 들어 올려야 하는지, 치워야 하는지, 다른 물체와 충돌 위험이 있는지까지 모두 판단해야 한다 [64].
      1. 이를 가능하게 하는 핵심은 멀티모델 인지이다 [66].
  2. 구성 요소 [67]
    1. 입력 정합기: 카메라, 마이크, 텍스트 등 서로 다른 형식의 데이터를 공통 표현 공간으로 매핑한다 [68].
      1. 공통 표현 공간은 다양한 입력을 같은 기준 위에 올려놓아 서로 연결하고 비교하며 이해할 수 있도록 만드는 기반 구조이다 [70].
    2. 크로스 모델 인코더: 서로 다른 모달리티(감각 양식) 간의 관계를 학습한다 [71].
      1. 예를 들어, "Bring Me 컵"이라는 텍스트 명령이 주어졌을 때, 영상 속에서 컵에 해당하는 이미지 패치를 정확히 연결 지을 수 있어야 한다 [72].
    3. 시멘틱 레프리젠테이션 제너레이터: 단순히 객체 인식 결과를 넘기는 것이 아니라, 현재 상황을 요약한 의미적 상태 표현을 생성한다 [73].
      1. 예를 들어, "테이블 위에 빨간 컵이 하나 있고 그 옆에 접시가 있으며 컵은 손이 닿을 수 있는 거리 안에 있다"와 같은 표현이 생성된다 [75].
  3. 기술 흐름 [77]
    1. CLIP(클립) 구조: 이미지와 텍스트를 동일한 임베딩 공간으로 매핑하기 위해 대조 학습(Contrastive Learning)을 사용한다 [78].
      1. 이미지와 문장이 짝이 맞으면 가까운 위치로, 틀리면 멀어지도록 임베딩을 학습하는 방식이다 [80].
    2. 비전 랭귀지 트랜스포머 구조: RT2, 플라밍고, 그루트 같은 모델이 채택하며, 크로스 어텐션 기반의 멀티모델 트랜스포머 구조를 사용한다 [81].
      1. 비전과 랭귀지를 하나의 트랜스포머 입력으로 통합하여 문맥 기반으로 의미를 해석하고 명령에 연결된 비전 요소를 파악한다 [83].
  4. 학습 데이터 [85]
    1. 이미지와 텍스트 쌍: "a person is placing a red cup on the shelf"와 같은 문장이 이를 표현하는 이미지와 함께 제공된다 [85].
    2. 비디오와 명령 쌍: 특정 행동을 담은 짧은 영상과 함께 해당 행동을 설명하는 문장을 데이터 페어로 만들어 학습시킨다 [87].
    3. 로봇 행동 영상과 언어 지식 및 성공 여부: RT1과 RT2 학습에 사용된 로봇 데몬스트레이션 데이터셋으로, "place the Apple in the green bowl"과 같은 언어 지시와 짧은 영상, 성공/실패 플래그를 묶는 방법이다 [89].
    4. 이러한 데이터를 기반으로 크로스 모델 트랜스포머는 어텐션 레이어를 통해 언어와 이미지 간의 연관성을 학습한다 [90].
    5. 최종 출력은 다음 계층인 플래닝 레이어에 넘겨줄 의미 기반 시각 정보가 된다 [91].
      1. 이는 단순히 "컵일 확률이 87%"와 같은 예측값이 아니라, "컵이 어디에 있고 어떤 상태이며 사용자 명령과 어떤 관계를 가지는가"에 대한 종합 정보이다 [91].
  5. 실제 로봇 적용 구조 [92]
    1. 입력: RGB 카메라, 댑스 카메라, 마이크, 텍스트 명령 등 다양한 센서로부터 입력을 받는다 [93].
    2. 전처리: 시각 정보는 비전 트랜스포머나 레즈넷 같은 백본 모델로, 텍스트 명령은 T5나 버트 같은 자연어 처리 모델로 임베딩된다 [95].
    3. 멀티모델 융합: 크로스 어텐션 기반의 트랜스포머 구조를 사용하여 서로 다른 종류의 데이터를 하나의 의미 있는 표현 공간에서 연결한다 [96].
      1. 이 구조는 입력된 텍스트 명령이 영상 속 어떤 객체나 영역과 관련이 있는지를 학습된 어텐션을 통해 파악하고, 두 모달리티 간의 연관성을 정교하게 모델링한다 [96].
    4. 최종 출력: 단순한 객체 리스트나 바운딩 박스가 아니라, 로봇이 상황을 이해하고 행동을 계획할 수 있도록 돕는 의미 기반의 상태 요약이다 [97].
      1. 예를 들어, "책상 위에 사용자가 지시한 빨간 컵이 있고 팔을 뻗으면 닿을 수 있으며 주변에는 장애물이 없다"는 형태로 문맥적이고 실행 가능한 정보가 제공된다 [98].
    5. 이러한 구조는 플라밍고, 그루트, RT 등 최근 공개된 고성능 로봇 인공지능 모델에서 실제로 구현되고 있으며, 생성된 의미 요약은 다음 단계인 골 인터프리테이션 레이어에서 목표를 해석하고 계획을 수립하는 데 핵심적인 기초 자료가 된다 [98].
    6. 요컨대, 이 레이어는 로봇의 감각이 단순한 인식을 넘어서 이해의 영역까지 도달하게 만드는 기술적 기반이다 [99].
    7. 기존의 퍼셉션이 "무엇이 있다"를 말해주는 센서였다면, 에이전틱 로보틱스의 퍼셉션 레이어는 "지금 상황에서 무엇을 해야 하는가"를 판단할 수 있는 맥락 정보를 만들어낸다 [100].

2.2. 골 인터프리테이션 및 플래닝 레이어: 로봇의 뇌 [101]

  1. 역할: 멀티모델 퍼셉션 레이어가 세상을 이해하는 눈과 귀라면, 골 인터프리테이션과 플래닝 레이어는 로봇이 무엇을 해야 하는지를 생각하는 뇌이다 [102].
    1. 예를 들어, "저녁 식사 준비해 줘"라는 명령을 받으면, 기존 로봇은 이해하지 못하거나 사전 정의된 매크로만 실행했지만, 에이전틱 로봇은 다음과 같은 고차원적 해석을 시작한다 [103].
      1. "저녁 식사"라는 개념은 무엇을 의미하는가? [105]
      2. 지금 환경에서 내가 할 수 있는 요리 방법은 무엇인가? [105]
      3. 사용할 수 있는 도구는 어디에 있고 어떤 재료가 필요한가? [105]
      4. 어떤 순서로 행동을 수행해야 가장 효율적인가? [105]
  2. 구성 요소 [106]
    1. 골 인터프리터: 인간의 언어를 목표로 해석하는 부분으로, 텍스트 명령이나 환경에서 도출된 목표를 구조화된 의미로 바꾼다 [107].
      1. 예를 들어, "책상 위에 있는 사과를 가져와서 바구니에 담아줘"라는 명령이 들어오면, 단순히 문장을 이해하는 것이 아니라 다음과 같이 변환한다 [109].
        1. (목표: 사과를 바구니에 담기) [110]
        2. (객체: 사과, 위치: 책상 위) [110]
        3. (대상: 바구니, 위치: 바구니) [110]
      2. 이러한 구조화된 목표를 심볼릭 레프리젠테이션(Symbolic Representation)이라고 부르며, 이를 생성하기 위해 T5, GPT4, 파미트와 같은 인스트럭션 튜닝된 LLM 또는 구조화된 출력 파인튜닝이 사용된다 [110].
      3. 학습 데이터셋은 자연어 지시와 구조화된 목표 데이터, 시뮬레이션 환경에서 수집된 사용자 명령과 실행 결과 로그, 텍스트 투 플랜 어노테이션 데이터셋 등이 있다 [111].
    2. 하이레벨 플래너: 골 인터프리터가 설정한 목표를 달성하기 위한 고수준 행동 시퀀스를 생성하는 엔진이다 [112].
      1. 예를 들어, 위에서 정리한 목표를 바탕으로 다음과 같은 계획을 세울 수 있다 [114].
        1. 책상 위에서 사과의 위치를 인식한다 [115].
        2. 사과를 집기 위한 접근 경로를 계산한다 [116].
        3. 팔을 뻗어 사과를 집는다 [117].
        4. 바구니 위치로 이동한다 [118].
        5. 바구니 위에 사과를 놓는다 [119].
      2. 이러한 시퀀스를 만들기 위해 RT1 스타일 모델의 비헤이비어 클로닝 기반 트랜스포머, 인스트럭션 투 액션 시퀀스 모델, 비헤이비어트 또는 LLM 기반의 트리 구조 플래닝 등이 활용된다 [120].
      3. RT2나 그루트에서는 랭귀지 액션 트랜스포머가 이러한 플래닝을 수행하며, 사전 학습된 대규모 모델이 자연어 명령을 받아 중간 수준의 액션 토큰 시퀀스를 출력하는 방식으로 구현된다 [121].
  3. 실제 설계 예시 [122]
    1. 사용자 명령 또는 감지된 상황 기반 목표가 입력되면, 골 인터프리터 단계에서 GPT 기반의 구조화된 제너레이터가 언어 명령을 목표 형태로 해석한다 [122].
    2. 플래너 단계에서 트랜스포머 기반 시퀀스 제너레이터는 어떤 순서로 무엇을 할 것인지 고수준 행동 시퀀스를 생성한다 [122].
    3. 이 출력은 다음 단계인 액션 그라운딩 레이어로 전달되어 로봇의 실제 물리 행동으로 전환된다 [122].

2.3. 액션 그라운딩 레이어: 계획을 물리 행동으로 [124]

  1. 역할: 하이레벨 플래닝 레이어에서 만들어진 고수준 행동 시퀀스(계획)를 실제 모터 신호, 팔의 움직임, 시선의 전환 등 구체적인 물리 행동으로 변환하는 역할을 담당한다 [124].
    1. 즉, 플래닝 단계가 "무엇을 해야 하는지"를 결정했다면, 그라운딩은 "어떻게 해야 하는지"를 결정하는 단계이다 [127].
    2. 이 과정은 흔히 액션 토큰을 로우 레벨 스킬에 매핑하는 작업, 즉 로우 레벨 스킬 매핑이라고 불린다 [128].
  2. 고수준 액션 토큰의 변환 [129]
    1. 에이전틱 로봇의 플래닝 레이어는 "서치 오브젝트(Search Object)", "어프로치(Approach)", "그랩(Grasp)", "내비게이트(Navigate)", "릴리즈(Release)"와 같은 고수준 액션 토큰을 출력한다 [129].
    2. 이러한 토큰들은 실제 로봇의 물리적 제어로 이어져야 하며, 이를 위해 로봇 내부의 다양한 모듈형 스킬(스킬 프리미티브)로 구성된 라이브러리를 구축하고, 각 토큰을 라이브러리의 적절한 기능에 연결하는 매핑 구조가 필요하다 [130].
    3. 예시: 사용자가 "책상 위 컵을 집어줘"라고 명령했을 때 [131].
      1. 서치 오브젝트: 객체 인식을 수행하는 단계로, YOLO나 Segment Anything 모델 같은 비전 기반 인식 알고리즘을 통해 주변 환경에서 해당 객체를 탐색한다 [132].
      2. 어프로치: 인식된 객체의 위치를 기반으로 로봇이 접근하기 위한 동작을 수행하며, 시각 기반 위치 추정과 역기구학 계산을 통해 팔이나 몸을 어떻게 이동시킬지 결정한다 [133].
      3. 그랩: 그리퍼가 객체를 정확히 잡을 수 있도록 하는 동작으로, GraspNet과 같은 그립 포즈 예측 모델이 활용되어 최적의 그립 포인트를 찾아내고 그리퍼 제어 명령을 생성한다 [134].
      4. 내비게이트: 로봇이 다른 위치로 이동할 때 사용되는 액션으로, SLAM 기반의 지도 생성 및 경로 계획이 이루어지며, 바퀴형 로봇이라면 구동 명령이 실행된다 [135].
      5. 릴리즈: 특정 위치에서 객체를 내려놓는 동작으로, 관절의 위치를 조절하여 팔을 움직인 뒤 그리퍼를 열어 물체를 놓는다 [136].
  3. 스킬 앱스트랙션 및 실행 [138]
    1. 시스템은 각각의 고수준 액션 토큰에 대해 스킬 앱스트랙션 레이어(Skill Abstraction Layer)를 정의한다 [138].
      1. 이 레이어는 각 행동이 어떤 기능적 요구 사항을 가지며 어떤 종류의 하위 제어로 이어져야 하는지를 구조화한다 [138].
    2. 스킬 엑시큐션 모듈(Skill Execution Module)은 추상화된 행동 정의를 실제 로봇의 제어 인터페이스로 연결하여, 정의된 스킬을 적절한 모터 명령으로 번역해 로봇의 실제 하드웨어가 동작할 수 있도록 한다 [139].
  4. 학습 방식 [140]
    1. 모듈형 학습 방식: 그랩, 무브, 플레이스 등 각각의 스킬을 별도의 정책 네트워크나 전통적인 제어기의 형태로 개별적으로 학습한다 [141].
      1. 로봇이 스킬을 수행하는 과정에서 수집한 센서 데이터와 제어 명령 쌍이 학습 데이터로 활용되며, DAgger, 비헤이비어 클로닝, PPO 등의 강화 학습 및 모방 학습 알고리즘이 사용된다 [142].
      2. 이 방식은 각 스킬의 안정성과 제어 정확성을 높일 수 있다는 장점이 있다 [143].
    2. 엔드투 엔드 학습 방식: RGB 이미지와 텍스트 명령 등 다양한 입력 데이터를 한 번에 받아, 이를 바로 로봇의 모터 제어 명령으로 변환하는 전체 흐름을 하나의 모델에서 직접 학습한다 [144].
      1. 예를 들어, RT1은 비전과 랭귀지 정보를 통합하여 행동 토큰을 생성하고 이를 모터 제어로 이어지는 구조를 학습한다 [145].
      2. 그러나 이 방식은 방대한 양의 학습 데이터가 필요하며 제어의 안정성이 떨어질 수 있다는 단점이 있다 [146].
    3. 하이브리드 구조: 최근에는 두 가지 방식을 결합한 하이브리드 구조가 많이 채택된다 [147].
      1. 그루트와 RT2 모델에서는 고수준 행동을 LLM이나 VLM으로 생성한 뒤, 이 행동을 로봇이 이해하고 실행할 수 있는 모듈형 스킬로 연결하여 시스템 전체의 안정성과 일반화 능력을 동시에 확보한다 [148].
      2. 이는 각 행동 단위를 일관된 스킬 표현으로 관리하면서도 사용자의 새로운 요청에 유연하게 대응할 수 있는 실용적인 접근법이다 [148].
  5. 실제 시스템 구조 예시 [149]
    1. "그랩(Grasp)"과 같은 액션 토큰이 입력되면, 스킬 셀렉터에 의해 적절한 스킬 프리미티브와 매칭된다 [149].
    2. 해당 스킬을 수행하기 위한 사전 학습된 컨트롤러나 정책 네트워크가 스킬 모듈에서 활성화된다 [149].
    3. 이 네트워크는 로봇 하드웨어에 적용 가능한 모터 커맨드를 생성하고, 로봇은 그에 따라 실제 물리적 동작을 수행한다 [150].
    4. 액션 그라운딩 레이어는 추상적인 명령어가 실제 세계에서 물리적으로 의미 있는 행동으로 실현되도록 만드는 정밀한 기술의 집합체이며, 에이전틱 로보틱스의 진정한 실행력을 결정짓는 핵심 계층이다 [151].

2.4. 메모리 및 콘텍스트 레이어: 기억과 문맥을 다루는 능력 [152]

  1. 역할: 인간이 행동을 계획하거나 결정을 내릴 때 과거의 경험과 현재 상황의 맥락을 종합적으로 고려하듯, 로봇 또한 이전에 어떤 명령이 있었는지, 어떤 실패를 겪었는지, 어떤 상태 변화가 있었는지를 기억하고 이에 따라 전략을 조정할 수 있어야 진정한 에이전트로 기능할 수 있다 [152].
  2. 주요 역할 [154]
    1. 단기적 문맥 유지: 현재 수행 중인 행동 시퀀스 내에서의 상황 연결성 유지이다 [154].
      1. 예를 들어, "컵을 집어서 선반 위에 올려놔"라는 복합 명령 처리 과정에서 로봇은 그랩 동작 후 어떤 객체를 집었는지, 내비게이트 도중 어떤 장애물을 피했는지, 릴리즈 단계에서 정확히 어느 위치에 놓아야 하는지를 지속적으로 기억해야 한다 [155].
      2. 이러한 단기 문맥은 트랜스포머 구조 내에서 셀프 어텐션 메커니즘, 메모리 토큰 또는 체인 오브 스쿼트(Chain-of-Thought) 방식으로 구현된다 [156].
      3. 플라밍고나 RT2 같은 모델에서 내부 문맥 흐름 유지 구조를 적극적으로 채택하고 있으며, 특히 시간 흐름에 따라 연결된 이벤트를 기억하여 연속적인 시나리오를 구성하는 방식이 강력한 효과를 발휘한다 [157].
    2. 장기적 기억의 축적 및 재사용: 현재의 계획 수행을 넘어, 이전에 비슷한 상황에서의 경험을 저장하고 유사한 상황 반복 시 그 기억을 참조하여 더욱 빠르고 효율적인 대응을 가능하게 만든다 [158].
      1. 예를 들어, 특정 위치에서 컵을 들었을 때 자주 미끄러졌던 경험이 있다면, 이후 동일한 위치에서 로봇은 자동으로 그리퍼의 압력을 더 강하게 설정하거나 접근 각도를 바꾸도록 조정할 수 있어야 한다 [159].
      2. 이를 위해 일부 시스템은 외부 메모리 구조를 활용하는데, 이는 키-값 형태로 저장된 메모리 뱅크 또는 벡터 기반 검색이 가능한 시멘틱 메모리 벡터 스토어로 구현되기도 한다 [159].
      3. 이러한 구조는 LLM과의 통합을 통해 "지난번에 내가 떨어뜨린 컵 기억나?"와 같은 명령에도 대응할 수 있게 만든다 [160].
  3. 실제 시스템 적용 [161]
    1. 시간 순서를 따라 변화하는 관찰(Observation)과 행동(Action) 데이터를 구조적으로 저장하고 요약할 수 있는 모듈이 필요하다 [161].
    2. 초기에는 이 데이터들을 단순히 시퀀스로 저장한 후 트랜스포머 기반 네트워크로 처리하면서 연속된 상태 변화와 그에 따른 선택의 흐름을 학습시킬 수 있다 [162].
    3. 이후에는 이 시퀀스 중 의미 있는 지점들을 요약하거나 정책 모델이 활용할 수 있는 형태로 압축하여 메모리에 저장하는 과정이 필요하다 [163].
    4. 이때 강화 학습 기반의 보상(Reward) 신호를 이용하여 어떤 경험이 의미 있는 기억으로 분류될지를 학습하는 구조도 활용된다 [163].
      1. 예를 들어, 특정 작업에 반복적으로 실패했을 때 로봇은 그 실패 로그를 요약해 두고, 나중에 유사한 명령이 다시 들어왔을 때 해당 상황을 불러와 행동을 조정한다 [164].
    5. 이러한 방식은 단순한 행동 반복을 넘어 로봇에게 학습된 직관을 부여하는 중요한 요소이며, 에이전틱한 로봇 시스템의 지능이 단순히 파라미터에 저장된 학습만이 아니라 경험 기반의 적응성이라는 인간과 유사한 사고 구조로 확장되었음을 보여준다 [165].
    6. 즉, 메모리 및 콘텍스트 레이어는 일회성 판단이 아닌 시간과 경험에 기반한 누적 사고를 가능하게 하며, 이로 인해 로봇은 점점 더 환경, 사용자, 맥락에 맞게 스스로를 조율하는 유연한 존재로 진화할 수 있게 된다 [166].
    7. 이것이 바로 에이전트형 로봇이 기존의 규칙 기반 혹은 단발성 엔드투 엔드 시스템과 본질적으로 구분되는 지점이다 [167].

2.5. 셀프 리플렉티브 러닝 레이어: 실패로부터 배우는 능력 [168]

  1. 역할: 로봇이 어떤 행동을 시도했지만 실패했다면, 그 실패의 원인을 정확히 파악하고 다음번에는 같은 실수를 반복하지 않아야 한다 [169].
    1. 인간은 물건을 집으려다 미끄러뜨렸다면 손가락에 힘을 더 줘야겠다고 생각하거나 다른 각도로 접근해야겠다고 스스로 판단을 바꾼다 [170].
    2. 로봇도 마찬가지로 자기 반성을 통해 실패의 원인을 분석하고 내부 전략이나 정책을 개선할 수 있어야 진정한 에이전트로 기능할 수 있으며, 이것이 셀프 리플렉티브 러닝 레이어의 역할이다 [172].
  2. 학습 흐름 [174]
    1. 명시적 반성 및 개선(Explicit Reflection): 자연어 형태의 피드백을 기반으로 자신의 행동을 요약하고 분석하는 구조이다 [175].
      1. 예를 들어, 로봇이 특정 컵을 들지 못한 상황에서 내부적으로 "컵의 위치를 정확히 파악하지 못함, 그랩 동작 실패, 다음에는 댑스 정보 더 반영 필요"라는 일련의 사고 흐름을 문장 형태로 생성한다 [176].
      2. RT2나 그루트처럼 언어 기반 추론 능력을 가진 모델에서 활용되며, 로봇은 자기 자신의 행동을 해석 가능한 형태로 요약하고 그 안에서 개선점을 도출할 수 있다 [177].
    2. 암묵적 적응(Implicit Adaptation): 내부 정책 네트워크가 보상(Reward)이나 실패 로그를 기반으로 파라미터를 재조정하는 방식이다 [178].
      1. 강화 학습 기반 파인튜닝이 대표적이며, 최근에는 LoRA 기반의 파라미터 효율적 파인튜닝을 활용해 실시간에 가까운 반영도 가능하다 [178].
      2. 중요한 점은 이 방식이 단순히 더 잘하는 법을 학습하는 것이 아니라, "왜 실패했는가"라는 인과적 추론을 포함한다는 것이다 [179].
      3. 이는 로봇이 단순히 최적의 행동을 반복하는 것이 아니라, 환경 변화나 사용자 요구 변화에 따라 스스로 전략을 수정하는 데 핵심이 된다 [179].
  3. 실제 구현 방법 [180]
    1. 행동 로그를 기록하고 이를 분류하거나 요약할 수 있는 모듈이 필요하다 [180].
    2. 성공한 행동, 실패한 행동, 예기치 못한 상황 등을 분류하고, 각 로그에 대해 원인과 결과를 추출하는 구조를 트랜스포머 기반의 추론 모듈로 설계할 수 있다 [181].
    3. 이후 요약된 반성 기록을 다시 고수준 정책 생성기에 전달하여 이후 행동 계획 시 반영하도록 한다 [182].
      1. "지난번 컵 잡기에 실패했으니 이번에는 접근 방향을 다르게 설정해야겠다"는 판단은 단순히 데이터를 외우는 수준이 아니라, 새로운 상황에 반영할 수 있는 일반화된 반성 규칙을 생성하는 것이다 [183].
      2. 이 능력 덕분에 로봇은 스스로의 한계를 인식하고 점점 더 나은 전략을 고안하게 된다 [183].
    4. 결국 셀프 리플렉티브 레이어는 로봇에게 경험으로부터 배우는 능력을 부여하며, 단기적인 지시 수행이 아닌 장기적인 자기 개선의 흐름 속에서 학습하고 진화하게 만든다 [184].
    5. 이로써 에이전틱 로보틱스는 인간과 같이 실패를 통해 성장하는 존재가 되며, 단순히 데이터를 흡수하는 도구가 아닌 스스로를 변화시킬 수 있는 지능적 에이전트로 진화하게 된다 [185].

2.6. 에이전틱 로보틱스 구조 요약 [186]

  1. 멀티모델 퍼셉션 레이어: 시각, 음성, 언어 등 다양한 감각을 통해 세상의 정보를 이해하는 단계이다 [186].
  2. 골 인터프리테이션 및 플래닝 레이어: 자연어로 주어진 목표를 토큰 단위의 고수준 계획으로 변환하는 단계이다 [187].
  3. 액션 그라운딩 레이어: 생성된 계획을 실제 로봇이 실행할 수 있는 스킬로 매핑하는 계층이다 [187].
  4. 스킬 엑시큐션 레이어: 각 스킬을 실제 물리 제어기로 구동하는 실행 단계이다 [187].
  5. 셀프 리플렉티브 러닝 레이어: 실패 경험을 분석하고 스스로 전략을 조정하여 점점 더 나아지게 되는 학습 계층이다 [188].
  6. 이 다섯 단계를 통해 에이전틱 로보틱스는 단순한 반응형 시스템을 넘어서 스스로 이해하고 계획하고 행동하고 배우는 자율 에이전트로 작동할 수 있다 [188].

3. 에이전틱 로보틱스의 미래와 의미 [189]

thumbnail

에이전틱 로보틱스는 단순한 명령 수행 기계를 넘어 스스로 사고하고 성장하는 지능적 존재로서의 로봇을 가능하게 하는 핵심 설계이다.

3.1. 로봇의 진화와 AI의 역할 [189]

  1. 로봇의 변화: 에이전틱 로보틱스 구조를 통해 로봇이 외부 세계를 이해하고 목표를 해석하며 스스로 행동을 설계하고 실패로부터 배울 수 있게 되었다 [189].
    1. 이는 단순한 명령 수행 기계를 넘어서 스스로 사고하고 성장하는 지능적 존재로서의 로봇을 가능하게 만드는 설계의 핵심이다 [190].
  2. 지능적 존재로의 진화: 이제 로봇은 단순히 팔을 움직이고 물체를 집는 조금 스마트한 기계가 아니다 [191].
    1. 상황을 인식하고 목적을 해석하며 다양한 조건 속에서 가장 효율적인 행동을 선택하고, 심지어 스스로의 전략을 바꾸는 존재로 점차 진화하고 있다 [192].
  3. 로봇을 가진 AI: 단순히 AI가 로봇에 탑재되는 수준을 넘어서, AI를 심은 로봇을 만드는 것이 아니라, 로봇이라는 몸을 가진 AI, 즉 스스로의 몸을 통해 세상을 경험하고 이해하는 인공지능을 만들고 있는 것이다 [193].
  4. 미래 예측의 핵심: 물리적 세계에서 자율적으로 사고하고 학습하는 AI의 실현을 위한 구체적인 아키텍처를 이해하는 것이 앞으로 로봇 기술이 어떤 방향으로 나아갈지를 예측하는 가장 중요한 키가 될 것이다 [194].

3.2. 시청자 참여 및 마무리 [195]

  1. 시청자들에게 에이전틱 로보틱스가 앞으로 세상을 어떻게 바꿀지에 대한 생각을 댓글로 남겨달라고 요청한다 [195].
  2. 앞으로도 최신 로봇 기술들을 쉽고 깊이 있게 풀어주는 콘텐츠로 계속 찾아뵙겠다고 약속한다 [196].
  3. 영상을 마무리한다 [197].