자일링스(Xilinx)는 3월 3일 온라인 미디어 브리핑을 통해, 최신 데이터센터의 혁신을 위한 다양한 요구사항들에 대응하는 새로운 알베오(Alveo) SmartNIC 제품군과 스마트 월드(Smart World) AI 분석 애플리케이션, 마이크로초 미만의 트레이딩을 위한 가속 알고리즘 트레이딩 레퍼런스 디자인, 그리고 알베오 카드와 가속 애플리케이션을 쉽게 평가, 구매 및 구축할 수 있는 자일링스 앱스토어(Xilinx App Store) 등을 소개했다.

이제 데이터센터는 획일화된 기술적 성격의 워크로드가 집약되는 것이 아니라, 다양한 성격을 가진 여러 가지 애플리케이션이 동시에 운영되고, 그 추이도 빠르게 바뀌고 있는 환경이 되었다. 자일링스는 이런 데이터센터 환경에서 효율적인 고성능을 구현할 수 있는 방법으로 ‘컴포저블(Composable)’ 데이터센터 모델을 제시하는데, 이는 단순히 컴퓨팅, 네트워크, 스토리지 리소스를 애플리케이션에 맞게 할당하는 수준을 넘어, 디바이스 단에서부터 애플리케이션을 위해 리소스를 독립적으로 구성할 수 있는 수준을 구현한다. 그리고, FPGA가 제공할 수 있는 유연성과 성능은 이러한 ‘컴포저블’ 환경의 구현에 있어 반드시 필요한 부분이다.

자일링스의 알베오 SN1000 SmartNIC은 자일링스의 울트라스케일+ 아키텍처 기반 FPGA, 멀티코어 Arm 프로세서, 바이티스(Vitis) 네트워킹 플랫폼이 결합되어, 소프트웨어 정의 하드웨어 가속 기능을 통해, 모든 기능을 오프로드할 수 있다. 또한 자일링스의 알베오 가속기 카드에서 사용할 수 있는 ‘가속 알고리즘 트레이딩(AAT: Accelerated Algorithmic Trading)’ 레퍼런스 디자인은 소프트웨어 개발자가 마이크로초 미만의 트레이딩 성능을 빠르고 효율적으로 개발할 수 있게 지원한다. 그리고 자일링스의 비디오 머신러닝 스트리밍 서버로 구동되는 스마트 월드 플랫폼은 전체 애플리케이션을 가속화하고, 100ms 미만의 결정론적 파이프라인 지연시간으로 단일 알베오 가속기 카드 상에서 다중 신경망을 지원할 수 있다.

자일링스의 알베오 가속기 카드에서 구현할 수 있는 ‘가속 알고리즘 트레이딩(AAT: Accelerated Algorithmic Trading)’ 레퍼런스 디자인은 오늘날의 알고리즘 트레이딩 환경에서 요구되는 마이크로초 이하의 초저지연 환경을 커스텀 하드웨어를 개발하지 않고도 빠르고, 비용 효과적으로 구현할 수 있는 기반을 제공한다. 현재 알고리즘 기반 트레이딩 거래는 소프트웨어 기반과 하드웨어 기반의 환경으로 나뉘는데, 하드웨어 기반 환경이 제공하는 높은 성능은 큰 장점을 제공한다. 특히 고빈도매매(HFT) 환경에서는 마이크로초 수준의 지연시간이 요구되며, 이를 넘어서면 트레이더 측면에서는 손실을 최소화하는 등 상당한 이점을 얻을 수 있고, 반면 지연시간 경쟁에서 실패하면 전략이 노출되고, 비용 측면에 바로 반영될 수밖에 없다.

이에, 극도로 짧은 거래 지연시간을 구현하기 위해서는 하드웨어 기반의 가속기 활용이 필수적인 것으로 여겨지고 있다. 특히 프로세서 기반의 소프트웨어 환경에서는 성능 향상의 어려움 이외에도, 프로세서에서 네트워크 인터페이스까지 도달하는 경로에서의 지연시간까지도 제거해야 할 부분으로 꼽힌다. 이 때, FPGA 기반 하드웨어 가속기는 FPGA 내부에서 네트워크로 바로 접근할 수 있어, 이러한 미세한 지연시간까지 제거할 수 있다. 하지만 기존에는 이러한 가속기를 구현하기 위해 별도의 하드웨어 개발자가 필요하고, 디바이스 비용도 높으며, 개발 또한 시간이 오래 걸리고, 알고리즘의 유출이나 하드웨어 개발 이후 시장의 변화에 대응하는 부분 등에서 몇 가지 어려움이 존재했다.

자일링스의 ‘가속 알고리즘 트레이딩(AAT)’ 레퍼런스 디자인은 트레이더가 마이크로초 미만의 지연시간으로 정교한 전략을 구현할 수 있도록 해 주는, 구성 가능한 오픈소스 트레이딩 시스템을 제공한다. 이 디자인은 자일링스의 알베오 플랫폼 위에 즉시 구현 가능하며, 모듈식, 오픈소스 기반의 자일링스 바이티스(Vitis) 라이브러리, 짧은 지연시간의 프레임워크와 IP를 포함한 자일링스의 가속 알고리즘 트레이딩 디자인 등으로 구성되는 풀 스택 솔루션이다. 특히, 이 디자인에는 시카고 상업거래소(CME)의 T2T(Tick to Trade)를 위한 예제 설계가 포함되어 있어, 이를 기반으로 다양한 거래소 환경에 빠르게 적용할 수 있으며, 유연한 개발 환경과 라이브러리 모음 등으로, 사내 또는 협력업체 앱과 유연하고 손쉽게 통합 가능하고, 시장 출시까지의 기간을 크게 줄일 수 있다.

한편, 자일링스는 트레이딩의 지연시간을 줄이는 가속화 솔루션에서, 전통적인 프로세서 기반의 솔루션 ‘솔라플레어(Solarflare)’에서부터 커스텀 보드의 영역까지 모두 다루고 있으며, 이번에 소개한 ‘가속 알고리즘 트레이드’는 이 양 솔루션의 중간 단계로, 프로세서와 하드웨어의 하이브리드 구성, 혹은 전체 하드웨어 기반 구현 등을 선택할 수 있고, 이를 통해 소프트웨어 기반 솔루션의 유연성, 하드웨어 기반 솔루션의 성능을 양립할 수 있으며, 소프트웨어 기반에서 하드웨어 기반으로의 점진적인 이행도 가능하게 한다고 설명했다. 그리고 이 솔루션은 증권사의 거래 전 리스크 평가, 스마트 오더 라우팅, 시장 데이터 공급업체나 매도부분 벤더, 자기자본 트레이더들도 게이트웨이, T2T, 마켓 데이터 게이트웨이 등에 활용할 수 있다고 덧붙였다.

최근 대규모 데이터센터 환경 등에서 주목받고 있는 ‘SmartNIC’은, 기존의 ASIC 기반 오프로드 NIC이 제공하는 일부 기능의 하드웨어 가속과 부하 오프로드 기능을 필요에 따라 직접 구현함으로써, 시스템에서 프로세서의 부하를 줄이고 네트워크 처리 성능을 극대화할 수 있게 한다. 특히 성능과 적응성이 모두 요구되는 클라우드 서비스 제공자들의 소프트웨어 정의 인프라에서, SmartNIC의 성능과 유연성은 기존 ASIC 기반 오프로드 NIC의 성능과 프로세서 기반 구현에서의 유연성을 양립할 수 있게 해, 높은 성능과 다양한 기능은 물론, 빠른 기술적 변화에도 유연하게 대응할 수 있게 한다.

자일링스의 알베오 SN1000 SmartNIC은 소프트웨어 정의 하드웨어 가속 기능을 통해 모든 기능을 오프로드할 수 있는 컴포저블 SmartNIC 제품군으로, 광범위한 네트워크 기능을 라인속도로 가속화할 수 있는 개방형 아키텍처를 통해 프로세서 집약적 작업을 직업 오프로드해 네트워킹 성능을 최적화할 수 있다. 이 알베오 SN1000 SmartNIC은 1M LUT 규모의 자일링스 XCU26 FPGA와 16코어의 ARM 프로세서, 바이티스 네트워킹 플랫폼이 결합되어, 제어와 데이터 플레인의 분리와 함께 FPGA를 통한 하드웨어 가속 기능 구현, 고수준 프로그래밍 언어를 통한 애플리케이션 개발 가능 등의 특징을 제공한다. NIC 측면에서는 100Gbps 인터페이스 두 개와 100Mpps 급 처리 성능을 갖췄다.

이 알베오 SN1000 SmartNIC의 차별점은 ‘소프트웨어 정의 하드웨어 가속’이 꼽힌다. SN1000은 FPGA가 데이터 플레인 영역에, Arm 코어 프로세서가 컨트롤 플레인 영역에 있고, DRAM은 양 쪽에 공유되는 형태다. 그리고 데이터 플레인의 FPGA에는 자일링스가 제공하는 사전 프로그래밍된 블록을 결합해 기능을 구현할 수도 있고, 사용자가 직접 필요한 기능을 구현할 수도 있다. 소프트웨어 개발자는 ‘바이티스 네트워킹 플랫폼’과 P4, C/C++ 등의 표준 고수준 언어를 사용해 SmartNIC을 위한 기능과 프로토콜 및 애플리케이션을 개발, 성능 저하없이 손쉽게 커스터마이즈 할 수 있으며, 자일링스 앱스토어를 통해서도 이러한 기능이나 애플리케이션들을 찾고 설치, 배포할 수 있다.

AI 기반 비디오 분석 애플리케이션은 이제 인간의 생명과 건강 및 재산을 보호하는 데 있어서도 중요하게 활용되고 있다. 그리고 이러한 비디오 분석 애플리케이션의 중요성이 높아지는 만큼 복잡성도 높아지고, 이는 결정론적 짧은 지연시간 달성을 더 어렵게 하며, 목표 성능을 달성하기 위해 더 많은 하드웨어 리소스를 투입하면서 비용을 높이는 원인이 되고 있다. 이에, 자일링스는 알베오 가속기를 기반으로 복잡한 AI 비디오 분석 애플리케이션을 최소한의 하드웨어와 비용에서 최적화된 성능으로 구현할 수 있게 하는 ‘스마트 월드’ AI 비디오 분석 플랫폼을 소개했다. 이를 활용하면, 100ms 미만의 결정론적 파이프라인 지연시간으로 단일 알베오 가속기 카드 상에서 다중 신경망을 지원할 수 있다.

자일링스의 스마트 월드 비디오 분석 플랫폼은 복잡한 AI 비디오를 위해 성능을 최적화할 수 있도록 설계되었으며, 최소한의 하드웨어에서 여러 모델을 원활하게 처리할 수 있는 대규모 병렬처리 구성을 지원한다. 이를 통해 100ms 미만의 결정론적 파이프라인 지연시간과 함께, 단일 알베오 가속기 카드 상에서 다중 신경망 모델을 활용할 수 있으며, 그 결과 까다로운 AI 비디오 분석 애플리케이션에서 낮은 TCO를 달성할 수 있게 한다. 또한 이 플랫폼은 개발자를 위한 툴킷과 프레임워크 등 뿐 아니라, 고객과 파트너들이 스마트 시티, 헬스케어, 리테일, 빌딩 등의 분야에서 중요한 비디오 AI 분석 애플리케이션을 즉시 구축할 수 있도록 돕는 턴키 방식 솔루션 생태계 형태로도 제공되고 있다.

저지연 추론 시장의 주요 성장 동인으로는 제조업 현장의 안전관리나 글로벌 사고 및 비상상황 관리 시장, 리테일 분야에서의 분실 관리, 헬스케어의 중환자 관리 등에서의 빠른 시장 성장이 꼽힌다. 이러한 저지연 추론 환경에서, 자일링스의 알베오 가속기 카드를 기반으로 하는 스마트 월드 플랫폼은 32대의 카메라 구성에서 GPU 기반 경쟁 솔루션 대비, 필요한 카드와 서버 수는 절반으로 줄어 29% 더 낮은 TCO를 제공하며, 지연시간 또한 71% 낮은 수준을 달성할 수 있다고 소개했다. 한편, 이 플랫폼은 파이프라인 전반을 알베오 가속기 카드 기반으로 구현할 수 있도록 해 애플리케이션 전체를 가속화하고 저지연 환경을 구현할 수 있게 한다고 덧붙였다.

현재 자일링스의 스마트 월드 에코시스템 솔루션에서, 오페라(Aupera)는 오페라의 지능형 비디오 프로세싱과 알베오 가속기를 결합한 턴키 스마트 시티 및 스마트 리테일 솔루션을 제공하며, 밉솔로지(Mipsology)는 기존 AI 애플리케이션을 GPU 기반 아키텍처에서 알베오 플랫폼으로 손쉽게 이행할 수 있는 툴 세트와 플러그&플레이 방식의 고성능 AI 추론 가속화를 제공한다. 또한 디파이(DeepAI)는 알베오 가속기 카드를 통해 GPU 기반 솔루션 대비 비용당 최대 10배 향상된 성능의 엣지 AI 트레이닝을 제공한다. 스마트 빌딩의 적용 사례 측면에서도, ‘텐센트 위링크’가 오페라의 솔루션을 기반으로 5천대 이상의 카메라 규모로 구축되고 있으며, 90% 이상의 대역폭 절감 효과와 함께 추가 기능 구현을 위한 여유도 확보할 수 있었다고 덧붙였다.

또한, 자일링스는 스마트 월드 AI 비디오 분석을 비롯해 자금세탁방지 및 라이브 비디오 트랜스코딩에 이르기까지 즉시 구축 가능한 가속 애플리케이션을 제공하는 앱스토어를 출시했다고 밝혔다. 자일링스 에코시스템 파트너가 개발한 컨테이너 방식의 사전 구현된 이 애플리케이션은 몇 분 만에 가속 애플리케이션을 손쉽게 평가하고, 구매 및 구축할 수 있도록 해준다. 또한 파트너 등 앱 판매자에게도 고객에 좀 더 손쉽게 다가갈 수 있는 경로를 제공하며, DRM IP를 통합해 보안성이 검증된 플랫폼이자, 셀프서비스 플랫폼을 통해 글로벌 영업 및 마케팅 지원, 비즈니스 인텔리전스 극대화를 위한 실시간 분석 및 잠재고객 발굴 등의 특징을 제공한다.

<저작권자(c) 아크로팬(www.acrofan.com). 무단전재-재배포금지>