IBM 텔럼 Ⅱ 프로세서, 스파이어 엑셀러레이터, LLB 및 생성형 AI 등 AI 기능 제공
삼성 파운드리에서 5nm 공정 노드 기반 제조 예정...다양한 AI 기반 활용 사례 지원 가능

[보안뉴스 김영명 기자] IBM은 ‘핫 칩스(Hot Chips) 2024’에서 곧 출시될 IBM 텔럼(Telum) Ⅱ 프로세서와 IBM 스파이어 엑셀러레이터(Spyre Accelerator)의 아키텍처 세부 사항을 공개했다. 이 새로운 기술은 차세대 IBM Z 메인프레임 시스템의 처리 용량을 크게 확장하도록 설계돼 기존 인공지능(AI) 모델과 거대 언어 AI 모델을 함께 사용할 때 새로운 AI 앙상블 방식을 통해 속도를 높일 수 있도록 지원한다.

거대 언어 모델(Large Language Model, LLM)을 활용하는 많은 생성형 AI 프로젝트가 개념 증명에서 생산 단계로 넘어가면서 전력 효율적이고 안전하며 확장 가능한 솔루션의 요구가 우선순위로 떠올랐다. 8월에 발표된 모건 스탠리 연구에 따르면 향후 몇 년 동안 생성형 AI의 전력 수요가 매년 75%씩 급증해 2026년에는 스페인 전체가 2022년에 소비한 에너지 사용량만큼을 소비하게 될 것으로 예상했다. 많은 IBM 고객들은 적정한 규모의 파운데이션 모델을 지원하기 위한 아키텍처 결정과 AI 워크로드를 위해 설계된 하이브리드 클라우드 접근 방식이 점점 더 중요해지고 있다고 말한다.

이번에 공개된 주요 내용을 살펴보면, 먼저 차세대 IBM Z 시스템을 구동하도록 설계된 새로운 ‘IBM 텔럼 Ⅱ 프로세서’는 1세대 텔럼 칩에 비해 증가한 클럭(주파수) 및 메모리 용량, 40% 증가한 캐시 및 통합 AI 가속기 코어, 데이터 처리에 일관성을 제공하는 부속 데이터 처리 장치(DPU)가 특징이다. 이 새로운 프로세서는 업계의 복잡한 트랜잭션 요구 사항을 충족해 LLM을 위한 엔터프라이즈 컴퓨팅 솔루션을 지원할 것으로 기대된다.

텔럼 Ⅱ 프로세서 칩의 새로운 데이터 처리 장치(DPU)는 ‘IO 가속 장치’를 통해 메인프레임의 네트워킹 및 스토리지를 위한 복잡한 IO 프로토콜을 가속하도록 설계됐다. DPU는 시스템 운영을 간소화하고 주요 구성 요소의 성능을 향상시킬 수 있다.

‘IBM 스파이어 엑셀러레이터’는 텔럼 Ⅱ 프로세서를 보완하기 위해 추가적인 AI 연산 능력을 제공한다. 텔럼 Ⅱ와 스파이어 칩은 함께 작동하며 여러 개의 머신러닝 또는 딥러닝 AI 모델을 인코더 LLM과 결합하는 앙상블 방식의 AI 모델링을 지원하기 위한 확장 가능한 아키텍처를 형성한다. 각 모델 아키텍처의 강점을 활용해 앙상블 AI는 개별 모델보다 더 정확하고 강력한 결과를 제공할 수 있다. 핫 칩스 2024 콘퍼런스에서 선 공개된 IBM 스파이어 엑셀러레이터 칩은 별도 옵션으로 제공될 예정이다. 각 엑셀러레이터 칩은 75와트 PCIe 어댑터를 통해 부착된다. 스파이어 엑셀러레이터는 다른 PCIe 카드처럼 고객의 요구에 따라 확장이 가능하다.

IBM 티나 타르퀴니오(Tina Tarquinio) Z 및 리눅스원(LinuxONE) 제품 관리 담당 부사장은 “IBM은 강력한 로드맵을 통해 증가하는 AI 수요를 비롯한 기술 트렌드에서 앞서 나갈 수 있는 기반을 마련했다”며 “텔럼 Ⅱ 프로세서와 스파이어 엑셀러레이터는 고성능, 보안, 전력 효율성이 뛰어난 엔터프라이즈 컴퓨팅 솔루션을 제공하도록 설계됐다”고 말했다. 티나 부사장은 이어 “수년간 개발해온 이러한 기술은 차세대 IBM Z 플랫폼에 도입돼 고객이 LLM과 생성형 AI를 대규모로 활용할 수 있게 할 것”이라고 덧붙였다.

텔럼 Ⅱ 프로세서와 IBM 스파이어 엑셀러레이터는 모두 IBM의 오랜 제조 파트너인 삼성 파운드리에서 높은 성능과 전력 효율성을 제공하는 5nm 공정 노드를 기반으로 제작될 것이다. 이 두 제품은 함께 작동해 비즈니스 가치를 실현하고 새로운 경쟁 우위를 창출하도록 설계된 다양한 AI 기반 활용 사례를 지원할 것이다. 앙상블 방식의 AI를 통해 고객은 더 빠르고 정확한 예측 결과를 얻을 수 있다.

이 신제품의 특징이 결합된 처리 능력은 생성형 AI 활용 사례를 위한 발판을 마련할 예정이다. 예를 들어 ‘보험금 청구 사기 탐지’와 관련해서는 향상된 성능과 정확성을 위해 LLM과 기존 신경망을 결합한 AI 앙상블을 통해 주택 보험 청구의 사기 탐지 능력을 강화한다. ‘첨단 자금 세탁 방지’에서는 의심스러운 금융 활동을 탐지해 규제 요건 준수를 지원하고 금융 범죄 리스크를 완화한다. ‘AI 어시스턴트’에서는 애플리케이션 수명 주기 가속화, 전문 지식 전달, 코드 설명 및 변환 등을 지원한다.

IBM 관계자는 “텔럼 Ⅱ 프로세서는 차세대 IBM Z 및 IBM 리눅스원 플랫폼의 중앙처리장치가 될 것으로 향후 IBM Z 및 리눅스원 고객에게 제공될 예정”이라며 “현재 기술 프리뷰 단계의 IBM 스파이어 엑셀러레이터도 함께 제공될 것으로 예상된다”고 말했다.

한편 텔럼 Ⅱ 프로세서는 5.5GHz로 실행되는 8개의 고성능 코어와 코어당 36MB L2 캐시, 40% 증가한 온칩 캐시 용량(총 360MB)이 특징이다. 프로세서 드로어(drawer) 당 제공되는 2.88GB의 가상 레벨 4 캐시는 이전 세대보다 40% 증가된 용량을 제공한다. AI 통합 가속기는 금융 거래 시 사기 탐지를 강화하는 등 처리 지연(Latency) 시간이 짧고 처리량이 높은 거래 내 AI 추론을 가능하게 하며, 이전 세대보다 칩당 컴퓨팅 용량이 4배 증가했다.

한편 IBM은 보안뉴스·시큐리티월드가 선정한 2023 Global Security TOP100 기업이다. Global Security TOP 100은 물리보안 분야와 사이버보안 분야를 모두 포함해 2023년 한 해 동안 국내외에서 매출, 성장 속도, 기술력, 혁신성, 지속가능성 등에서 우수한 평가를 받아 선정됐다.
[김영명 기자(boan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>