1. HBM 3세대와 하이브리드 본딩 기술의 진화 [0]

thumbnail 고성능 AI 연산을 위한 HBM(고대역폭 메모리) 기술은 끊임없이 발전하며, 특히 하이브리드 본딩 기술이 핵심적인 역할을 수행한다.

1.1. HBM 3세대와 마이크로 범프의 한계 [0]

  1. HBM 3세대는 5세대 기술이며, 6세대부터는 하이브리드 본딩 기술이 적용될 것으로 예상된다. [0]
  2. 기존 반도체 회로 접합 방식은 마이크로 범프라는 미세한 납 코팅된 구리를 사용한다. [3]
    1. 이 마이크로 범프는 먼지보다 작은 크기지만, 1024개를 붙여야 한다. [10]
    2. 마이크로 범프의 높이는 약 15 마이크로미터이며, 12층을 쌓을 경우 상당한 높이를 차지하게 된다. [11]
  3. 칩의 층수는 늘어나야 하지만, 전체 높이는 제한되어야 하는 문제가 발생한다. [16]
  4. HBM 3 표준 두께는 720 마이크로미터이며, 16단 적층을 위해서는 칩 두께가 30 마이크로미터 수준으로 얇아져야 한다. [19]
  5. 이러한 두께 제약 때문에 마이크로 범프를 제거하고 다이렉트 본딩 방식인 하이브리드 본딩으로 전환이 필요하다. [25]

1.2. 하이브리드 본딩 기술의 원리와 장점 [27]

  1. 하이브리드 본딩은 구리끼리, 유전체끼리 서로 다른 물성을 가진 물질을 함께 접합하는 기술이다. [27]
  2. 이는 기존의 단일 물성 접합 방식과 달리 이종 접합을 가능하게 한다. [32]
  3. 하이브리드 본딩은 다음과 같은 장점을 가진다.
    1. 두께 이슈 해결: 칩의 높이를 줄여 더 많은 층을 쌓을 수 있게 한다. [34]
    2. 방열 성능 향상: 열 방출 효율을 높여 칩의 안정성을 증대시킨다. [36]
  4. HBM의 고속 엘리베이터 역할을 하는 TSV(Through-Silicon Via)의 전자가 이동하는 통로가 HBM 4부터 두 배로 늘어나는데, 범프 방식으로는 밀도 한계가 있어 다이렉트 본딩이 필수적이다. [38]

1.3. 하이브리드 본딩 적용 시점과 관련 기업 [43]

  1. HBM 4에는 하이브리드 본딩이 적용되지 않을 가능성이 높으며, 기술적 어려움으로 인해 두께 표준이 완화되기도 했다. [43]
  2. 하이브리드 본딩 기술은 네덜란드의 베시(Besi) 업체가 선점하고 있으며, 주로 코어(Chip-on-Wafer) 공정에 사용된다. [47]
  3. 기존에는 GPU 실리콘 인터포저에 HBM을 붙이거나 플립칩을 붙일 때 TC 본더(Thermal Compression Bonder)를 사용했다. [54]
  4. 베시는 코어 공정 경험은 많지만 HBM 부착 경험은 없으며, 이 영역에서는 한미반도체와 같은 TC 본더 전문 기업의 저력도 무시할 수 없다. [56]
  5. 한미반도체 역시 하이브리드 본딩을 개발 중이며, TC 본더 경험을 바탕으로 하이브리드 본딩 방식에서도 경쟁력을 가질 가능성이 높다. [60]

2. 주문형 D램 시대의 도래와 AI 최적화 [68]

thumbnail AI 시대에는 특정 칩의 성능을 극대화하기 위한 주문형 D램의 중요성이 커지고 있다.

2.1. 주문형 D램의 개념과 필요성 [68]

  1. 인텔, AMD, 퀄컴 등은 주문형 D램을 주도하고 있으며, 이는 기존의 범용 D램과는 다르다. [68]
  2. 주문형 D램은 특정 칩의 헤테로지니어스 인티그레이션(이종 직접 반도체)에 맞춰 최적화된 메모리 솔루션을 제공한다. [71]
  3. HBM은 이러한 주문형 D램의 한 형태로, 점차 특화될 것으로 예상된다. [73]
  4. 일반 모바일 D램 역시 주문형으로 제작되는 추세이다. [77]

2.2. 주문형 D램의 대표적인 예시와 기술 [78]

  1. 애플 비전 프로에 탑재된 LLW 칩은 기존 LPDDR 5X 대비 입출력 수는 8배, 속도는 2배 이상 빠르다. [78]
  2. VFO(Vertical Fan-Out) 기술을 활용한 티컬 팬 아웃 칩은 TSV 없이 수직으로 쌓아 계단식으로 연결하는 방식이다. [82]
  3. 이러한 주문형 D램은 AI 연산에 최적화되어 있기 때문에 필요하다. [84]

2.3. AI와 프로세서-메모리 통합의 중요성 [85]

  1. AI는 사람의 뇌를 모방하며, 뇌는 프로세서와 메모리가 함께 존재한다. [85]
  2. 기존 반도체는 폰 노이만 구조로 프로세서와 메모리가 분리되어 있지만, AI 연산 최적화를 위해서는 이 둘을 하나로 만드는 것이 이상적이다. [87]
  3. 뉴로모픽 반도체 컨셉이 이를 목표로 하지만 기술적 어려움이 있어, 현재는 프로세스 인 메모리(PIM) 기술을 통해 프로세서와 메모리를 최대한 가깝게 붙여 통신하도록 한다. [89]
  4. 이는 CPU와 D램이 가까워지고, 나중에는 하나의 집 안에 설계되는 주상복합 형태까지 발전할 수 있음을 시사한다. [90]

2.4. 주문형 D램 확대가 메모리 반도체 회사에 미치는 영향 [93]

  1. 주문형 D램에 적응한 메모리 반도체 회사들은 큰 수혜를 얻는다. [94]
  2. SK하이닉스의 HBM 매출은 상당한 이익을 창출하며, 수율 개선 시 이익은 더욱 증가할 것이다. [95]
  3. HBM은 엔비디아뿐만 아니라 테슬라의 D1 칩, 국내 NPU 3대장(큐리오스, AI, 리벨리언, 사피)의 칩에도 필요하다. [98]
  4. 따라서 범용 D램 시대에서 주문형 D램 시대로 전환되고 있다. [104]

2.5. 낸드 플래시와 AI 최적화 [105]

  1. 낸드 플래시 역시 AI 최적화 방향으로 발전하고 있으며, 이는 하이엔드 시장의 이야기이다. [106]
  2. AI PC나 AI 스마트폰은 당장은 범용 메모리를 사용하겠지만, 서비스 고도화를 위해서는 주문형 메모리가 효율적이다. [109]
  3. 낸드 플래시는 저장 수단으로서 대용량 저장 및 빠른 입출력이 중요하며, AI 주문형 시대에는 이에 맞춰 변화할 것이다. [110]

2.6. 애플의 온디바이스 AI와 낸드 플래시 활용 [112]

  1. 애플은 온디바이스 AI 컨셉을 선보일 예정이며, 이미지 분석을 통해 텍스트로 답변하는 패럿 모델을 공개했다. [112]
  2. 기존 온디바이스 AI는 D램 기능이 중요하지만, 애플은 낸드 플래시를 활용하여 이를 구현하려 한다. [122]
  3. 낸드 플래시는 D램 대비 읽기/쓰기 속도가 느리고 수명 이슈(열화)가 있지만, 컨트롤 IC 기술을 통해 이러한 단점을 보완할 수 있다. [124]
  4. 앞으로 메모리 컨트롤 IC 기술의 중요성이 더욱 커질 것이다. [129]

2.7. 메모리 베이스 다이의 기능 강화와 진화 [131]

  1. 낸드 플래시뿐만 아니라 D램에서도 베이스 다이의 기능이 강화되고 있다. [131]
  2. 기존에는 단순 기능만 했던 베이스 다이에 컨트롤러 IC, 파워 매니지먼트 등 다양한 기능이 추가되고 있다. [133]
  3. 이는 단순 입출력을 넘어 프로세싱 기능이 요구되기 때문이며, 프로세싱 리어 메모리에서 프로세싱 인 메모리로 진화하는 과정이다. [135]
  4. 이러한 진화는 고부가가치 D램 및 낸드 플래시 시장을 형성하며, 성공하는 업체는 큰 성장을 이루고 그렇지 못한 업체는 뒤처지게 된다. [139]
  5. SK하이닉스가 이러한 기술 트렌드를 잘 따르고 있으며, 주가 흐름도 이를 반영하고 있다. [144]

3. 온디바이스 AI 시대의 도래와 하드웨어 변화 [148]

thumbnail 온디바이스 AI는 스마트폰, PC 등 개인 기기에서 AI 연산을 직접 수행하는 기술로, 하드웨어 설계 및 메모리 수요에 큰 변화를 가져온다.

3.1. 애플의 온디바이스 AI 전략과 하드웨어 변화 [148]

  1. 애플은 6월 10일 WWDC에서 온디바이스 AI를 공개할 것으로 예상되며, 아이폰 15에도 적용될 가능성이 있다. [151]
  2. 애플은 랜드 플래시를 활용한 패러다임 모델을 공개했으며, GPT 4.5를 아이폰에서 효율적으로 구동하는 것이 관건이다. [155]
  3. 애플의 M4 프로세서는 NPU 블록 사이즈가 7.7배 증가했으며, 아이폰 16의 A18 프로 칩 역시 NPU 블록이 크게 늘어날 것으로 예상된다. [164]
  4. LLM(거대 언어 모델)은 서버 클라우드에서 처리되지만, SLM(스몰 랭귀지 모델)은 온디바이스 AI용으로 사용되며, 일반적으로 10억 개 매개변수당 1GB의 램이 추가로 필요하다. [175]
  5. 이에 따라 아이폰은 기존 대비 2~4GB, PC는 16GB에서 32GB까지 램 수요가 증가할 것이다. [182]
  6. 애플 역시 램 수요 증가를 피할 수 없으며, 온디바이스 AI 구동을 위해 낸드 플래시 수요도 증가할 것이다. [186]

3.2. 온디바이스 AI와 클라우드 스토리지의 관계 [190]

  1. 기존에는 빠른 통신 속도로 인해 클라우드 스토리지를 주로 사용했지만, 온디바이스 AI는 로컬 스토리지에 프로그램 저장이 필수적이다. [191]
  2. 이에 따라 디바이스 스토리지의 약 15%는 프로그램 설치 공간으로 필요하게 될 것이다. [193]

3.3. 온디바이스 AI 확대가 메모리 반도체 업계에 미치는 영향 [195]

  1. 온디바이스 AI 확대는 메모리 반도체 업체들에게 매우 긍정적인 호재이다. [195]
  2. 칩 자체가 고도화되어야 하므로, 관련 업체들은 큰 수혜를 볼 것이다. [196]

3.4. x86 아키텍처의 한계와 ARM 코어 기반의 부상 [197]

  1. 기존 인텔, AMD의 x86 아키텍처(CISC)는 전성비가 떨어져 AI 연산에 불리하다. [197]
  2. 모바일 시대를 거치며 고도화된 RISC 방식의 ARM 코어는 성능 저하 없이 전력 효율이 뛰어나다. [207]
  3. 퀄컴의 스냅 엘리트 칩처럼 윈도우용으로도 ARM 코어 기반 칩이 등장하고 있으며, AI 연산에 필요한 높은 전성비를 충족시킨다. [211]

3.5. 하드웨어 교체 없이 온디바이스 AI 적용 가능성 [216]

  1. 아이폰 16부터 온디바이스 AI가 적용될 예정이지만, 아이폰 15에도 펌웨어 업데이트를 통해 적용 가능하다. [216]
  2. 다만, AI 최적화 하드웨어가 아니므로 성능 차이가 발생할 수 있다. [223]
  3. 갤럭시 S24 시리즈의 온디바이스 AI 기능이 S23 시리즈에서도 지원되지만, 주문형 메모리 사용 시 성능 체감이 더 크다. [227]

4. 온디바이스 AI 시대의 수혜주와 기술적 차별점 [230]

thumbnail 온디바이스 AI 시대에는 소켓 업체를 비롯한 다양한 분야의 기업들이 수혜를 입으며, 각 기업은 고유한 기술력으로 차별화된다.

4.1. 주문형 칩 증가와 소켓 업체의 역할 [230]

  1. 주문형 칩은 품종은 많지만 제각각 다른 성능 요구사항을 가지므로, 맞춤형 소켓 제작이 필수적이다. [231]
  2. 리노공업과 같은 업체는 연구개발용 소켓 매출 비중이 높아 맞춤형 제작에 강점을 가진다. [237]
  3. 파운드리 고객이 새로운 칩을 의뢰할 때, 리노공업은 테스트 및 튜닝 과정을 지원하며 맞춤형 솔루션을 제공한다. [245]
  4. ISC, TSSE, TFE 등 테스트 소부장 기업들도 온디바이스 AI 확대에 따른 수혜를 볼 것이다. [249]

4.2. 소켓 업체들의 기술적 차별점 [262]

  1. 리노공업은 포고 핀 기술을 기반으로 하며, 직접 핀과 소켓을 제작한다. [262]
    1. 다품종 소량 생산 경험과 노하우가 풍부하며, 시스템 쪽에 특화되어 있다. [268]
  2. ISC, TFE 등은 실리콘 러버 타입을 주로 사용하며, 대량 생산에 적합하다. [269]
    1. 실리콘 고무 재질에 압력을 가해 도전 볼 배열을 통해 전기가 통하는 원리이다. [271]
    2. 주로 APN 등 물량이 많은 분야를 담당하며, 시스템 반도체 비중도 높아지고 있다. [273]

4.3. 칩 설계 및 디자인 솔루션 분야의 변화 [255]

  1. ARM 코어 기반 설계가 늘어나면서 다양한 IP(지적 재산권) 확보가 중요해진다. [255]
  2. 칩 설계 자동화 툴인 EDA 툴은 미국의 시냅시스, 케이던스 등이 제공한다. [256]
  3. 새로운 칩 설계 및 디자인 레이아웃을 담당하는 DSP(디자인 솔루션 파트너스) 업체인 가온칩스, AD 테크놀로지 등도 수요를 보게 된다. [258]
  4. 투자자들은 리노공업, ISC, TFE 등 소켓 업체들의 차이점을 명확히 이해할 필요가 있다. [260]