현재 AI 시스템은 프로세서, 그래픽카드 그리고 프로세서 내부에 포함된 NPU 를 기반으로 작동된다.  인텔의 코어 울트라 시리즈 프로세서가 출시가 되면서 노트북, 데스크탑 프로세서에 별도의 NPU 를 추가하면서 본격적인 AI 시대는 가속화 되었다고 볼 수 있다.  이런 하드웨어적인 지원 부분이 점진적으로 해소가 되면서 소프트웨어에 대한 변화가 이루지고 있는데 특히나 운영체제의 변화가 적지 않다.  이런 움직임은 마이크로소프트의 중심으로 변화가 되고 있는데 윈도우10 에서는 비교적 미진한 업데이트가 이루어지고 있는 것에 비해 윈도우11의 경우 매월, 분기마다 새로운 버전 및 업데이트를 추가하면서 많은 변화가 이루어지고 있는데 올해 하반기에 출시될 것으로 보이는, 완전히 윈도우 커넬까지도 재설계가 이루어질 것으로 보이는 윈도우12에서는 보다 놀라운 변화가 생길 것으로 예상된다.

■ 마이크로소프트의 코파일럿+ ?  

이런 마이크로소프트의 코파일럿+PC 에서는 모든 AI 처리가 머신-러닝고 로컬 AI 처리를 독립적으로 이루어지게 되는데 이 때 반드시 필요한 것은 프로세서 내부에 포함되어 있는 "NPU"의 유무이다.  이 NPU 가 없는 프로세서를 사용하게 된다면 자연스럽게 차세대 운영체제의 잇점을 100% 활용할 수 없게 된다.  현재는 인터넷이 연결된 온라인 상태에서 더불어서 온-디바이스 상태에서 모두 AI 기능을 활용할 수 있는데 지금은 그림판 앱을 통한 이미지 생성, 화상 통화 효과 등 (백-그라운드 처리 등)에 한정되어서 사용되고 있다. 

그렇다면 기존의 일반적인 컴퓨터와 AI 컴퓨터이 차이점은 무엇일까? 

최근 마이크로소프트의 보도자료에 따르면 마이크로소프트 365 코파일럿은 금융위원회가 지난달 15일 발표한 혁신금융서비스 신규지정 내역 중 '내부 업무용 단말기에서 SaaS 및 생성형 AI 이용' 항목에 포함됐다. 이번 발표로 KB금융지주를 비롯한 은행, 보험, 증권, 저축은행, 카드·캐피탈 등 26개 금융사는 내부 업무용 단말기에서 마이크로소프트 365 코파일럿을 활용할 수 있게 되었다고 밝혔다. 

마이크로소프트 365 코파일럿은 마이크로소프트 365 앱에 대형 언어 모델(LLM)과 비즈니스 데이터를 기반으로 다양한 업무를 지원하는 생성형 AI 솔루션이며, 또한 마이크로소프트 365는 클라우드 기반 SaaS(서비스형 소프트웨어)로, 워드, 파워포인트, 아웃룩, 엑셀 등 모든 기기에서 원활하게 작성, 협업 및 공유할 수 있는 도구를 제공한다.

마이크로소프트의 대표적인 크리에이션 소프트웨어인 마이크로소프트 오피스 365는 새로운 버전에 적극적으로 AI 를 도입하고 있다.  마이크로소프트 오피스 365가 가지고 있는 가장 강력한 장점은 바로 설치된 컴퓨터 (로컬) 상태에서도 독립적인 실행이 가능하다는 점이다.  이 부분은 인터넷 등 온라인 상에서 발생할 수 있는 보안상에 이유로 금융권, 관공서 및 패쇄적인 네트워크 환경에서 최적화된 환경을 고려 설계가 되었기 때문이다.  이에 최신 NPU가 포함되어 있는 AI 프로세서의 선택은 선택이 아닌 필수가 되어가고 있다는 것이다.  

■ 인텔 AI 어시스턴트 빌더

AI 어시스턴트 빌더는 복잡한 과정 없이 AI 모델을 손쉽게 개발할 수 있도록 지원하는 솔루션이다. 이 솔루션은 세 단계만 거치면 AI 어시스턴트를 구축할 수 있도록 설계되었다. 먼저, 준비된 AI 어시스턴트 모델을 선택하고, 이를 다운로드 및 설치한 후, 프로그램을 실행하면 된다.  인텔에서 공개한 보도자료에 따르면 해당 소프트웨어는 아래와 같은 방법으로 빠르고 쉽게 사용할 수 있다.

사용 방법

1. 이 앱은 사용자가 채팅 창에서 질문을 하고, PDF, 스프레드시트, 프레젠테이션, 텍스트 파일 등 다양한 형식의 문서를 업로드하거나 삭제할 수 있도록 지원한다.

2. 사용자가 질문을 하면 AI 어시스턴트는 질문에 맞춰 응답하며, 대화 기록, 관련 문서, 그리고 대규모 언어 모델(LLM)의 내재적 지식을 바탕으로 학습한다.

3. 또한, 욕설 필터와 모델이 편향 없이 안전하게 응답하도록 유도하는 보조 안전 시스템을 포함한 고급 AI 안전 장치를 갖추고 있다.

4. 사용자가 다양한 고급 기능을 선택해 자신만의 AI 어시스턴트를 맞춤형으로 구축할 수 있도록, 지속적으로 새로운 기능이 추가되고 있다.

인텔이 공개한 AI 어시스턴트 빌더는 특정 하드웨어 요구사항을 충족하는 모든 인텔 코어 울트라 기반 AI PC에서 원활하게 실행된다.  단 인텔의 홈페이지에 따르면 최소 사양은 인텔 코어 울트라 프로세서(시리즈 1), 16GB DDR5 메모리, 그리고 인텔 내장 그래픽스를 가지고 있는 컴퓨터이다.  데스크탑 쪽으로 보게되면 작년 9월에 정식 출시된 코어 울트라 시리즈1 대비 향상된 NPU 를 탑재하여 AI 성능을 3배 향상시키고 전력 소모를 최대 50% 줄인 인텔 울트라 Ultra 프로세서 (시리즈 2)를 구입할 수 있다. 

초기 소프트웨어 다운로드에는 인터넷 연결이 필요하지만, 추후 AI 어시스턴트 빌더는 쿼리 처리를 클라우드가 아닌 로컬 PC에서 실행한다. 이는 현재 중국 AI 소프트웨어인 딥-시크의 사용자들이 해당 소프트웨어를 사용시 온라인을 통해 다량의 개인 정보를 가지고 있다는 점에 비해 인터넷이 연결되지 않은 설치된 컴퓨터에서 처리가 된다는 점에서 사용자들의 패턴 및 데이터 등이 사용자가 가지기 때문에 보다 안심하고 사용할 수 있다.  

■ 인텔 코어 울트라7 시리즈2 265K (애로우레이크)

▲ 상세 스펙 : 인텔(소켓1851) / TSMC 3nm / P8+E12코어 / 20스레드 / 기본 클럭: 3.9GHz / 최대 클럭: 5.5GHz / L2 캐시: 36MB / L3 캐시: 30MB / PBP-MTP: 125-250W / PCIe5.0, 4.0 / 메모리 규격: DDR5 / 6400MHz / 내장그래픽: 탑재 / 인텔 그래픽스(Xe LPG) / 기술 지원: 인텔 XTU , 인텔 딥러닝부스트 / 쿨러: 미포함 / 시네벤치R23(싱글): 2304 / 시네벤치R23(멀티): 36309 / 출시가: 394달러(VAT별도)

인텔이 초기 디자인 그리고 개발사의 협업을 통해 사용할 수 있는 인텔 코어 울트라 (시리즈2) 프로세서의  NPU 성능을 100% 활용한 소프트웨어들은 아래와 같다.

■ 무료, 팟캐스트 등 오디오 편집 Audacity 

▲ 오픈소스, 무료로 제공되는 오다시티의 소프트웨어 모습 

누구나 무료로 그리고 평생 사용할 수 있는 전문 오디오 (음향) 편집 툴이 오다시티는 오픈소스를 기반으로 최근 3.7 버전까지 공개하면서 꾸준하게 그 사용자 층을 넓혀가고 있다.  이 소프트웨어는 완전 무료이긴 하지만 편집된 파일 등을 클라우드 등에 저장할 수 있는 구독형 서비스도 같이 진행하고 있다.   그렇지만 사용하고 있는 컴퓨터의 스펙이 좋다면 굳이 클라우드 저장 구독 서비스 까지 받을 필요가 없다.  이 소프트웨어는 오픈 소스 기반이어서 상업적용 용도로 사용하지 않는 범위 내에서 개인이 직접 소프트웨어를 수정할 수 있다. 

사운드 편집은 다양한 범위에서 일어날 수 있는데 인텔의 코어 울트라 시리즈 프로세서를 사용하게 된다면 프로세서 내부의 NPU 를 활용해 인텔의 AI 표준 API 라고 볼 수 있는 "OpenVINO" 로 만들어진 플러그-인을 다운로딩 받아 그 AI 활용을 극대화 할 수 있다. 

해당 플러그인을 할 수 있는 기능은 상당히 다양한데 우선 Text to read 기능을 제공하는데 별도의 텍스트 형태로 제공된 워드파일, PDF 파일 등을 다양한 목소리로 읽어주는 기능을 제공한다. 이를 통해 팟캐스트 운영자들이라면 다양한 온라인 뉴스 혹은 지면 등의 텍스트를 다양한 목소리를 입혀 시청자들에게 제공할 수 있다.   그 외에 당연히 오픈형 마이크를 통해 들어오는 잡음을 제거하는 안티노이즈 기능 역시 제공한다.  

그리고 상당히 중요한 기능 중에 하나는 최근 생성형 AI 의 대표주자라고 할 수 있는 스테이터블 디퓨전 (Stable Diffusion) 고 함께 WebUi 등을 통해 생성된 스틸 이미지 등과 함께 새로운 음악을 AI 로 생성 재생할 수 있다. 또한 기존의 음원을 각기 악기들의 트랙과 오디오 트랙을 분리하여 별도로 추가 및 삭제 등을 할 수 있어서 유료로 사용할 수 있는 음원 편집툴을 대체할 수 있는 좋은 소프트웨어이다. 

■ 인텔 NPU에 최적화, VEGAS Pro Edit 365 (구독형)

어도비의 프리미어, 블랙매직 디자인의 다빈치 리졸브는 최근 유행하고 있는 유튜버 등 동영상 크리에이터 들에게 많은 사랑을 받고 있는 유료 동영상 편집 툴이다. 여기에 하나 정도 더 추가를 하지만 다양한 영상 장비를 만들고 있는 소니의 타이플을 쓰고 있는 베가스 이다.  최신 버전은 베가스 프로 에디트 365는 앞서 이야기 했던 어도비와 같이 구독형을 제공하고 있는데 이 구독형을 서비스 받게 되면 AI 가 적용된 다양한 기능 등을 추가적으로 활용하수 있다.  AI 기술이 적목된 부분은 화면 편집과 음성 편집 2가지 부분으로 나눌 수 있는데 이를 통해 편집자가 원하는 형태의 동영상을 빠르게 구현 할 수 있다.  

베가스 프로 에디트 365를 통해 사용할 수 있는 AI 기술 들을 상당히 다양하다.  사진, 동영상을 촬영하다 보면 거리감에서 발생할 수 있는 깊이를 AI 를 판단하여 2D 영상을 마치 3D 영상같이 느끼게 할 수 있는 AI Z-Depth 를 비롯하여 최근 동영상 촬영 중에 발생할 수 있는 사람들의 얼굴로 인하 초상권 문제를 해결하기 위해 얼굴에 다양한 블러 효과를 주는데 영상 내에 보여지는 다양한 객채, 사물 들을 알아서 판단하여 편집자의 지정에 따라 자동적으로 마스크를 생선 가려주는 스마트-마스크 기능 등이 있다.  이 기능을 활용하게 되면 동영상 내에 움직이는 사람들의 얼굴을 따라다니면서 블러 처리를 해주기 때문에 상당히 편리하다.

구독형으로 제공되지만 추가적인 AI 기능 중에 하나인 Speech to Text 기술은 동영상 내에 포함된 음성을 자동적으로 인식 알아서 캡션 혹은 자막으로 생성하여 동영상 제작시 시청자들에게 정확한 메세지를 전달해 줄 수있다.  총 70 개의 언어를 제공하기 때문에 다국어 접속이 가능한 유튜브 채널을 만드려는 분들에게는 상당히 유용한 기술이다. 

마지막으로 화질에 관한 부분에서도 AI 가 도입되었는데 동영상 편집에 가장 기본이라고 할 수 있는 색상, 톤 등의 화질을 모네, 반고흐 등의 유명 예술가 스타일을 그대로 가지고 와서 자신이 촬영한 동영상에 적용해 새로운 동영상을 만들 수 있으며 AI 기반의 업스케이길 기술을 적용하여 HD 포맷으로 촬영된 동영상을 높은 매끄러운 화질로 4K 해상도까지 업-스케일링을 할 수 있도록 해준다. 

동영상 편집의 경우는 오랜 시간을 투자했을 때 수정 후 결과물을 원하게 만들 수 있는데 편집자가 할 수 있는 단순한 그리고 복잡한 편집을 통해 적지 않은 시간을 절약할 수 있으며 사람의 눈이 피해서 발생할 수 있는 오류, 마스킹 등을  AI 가 판별해 주기 때문에 육안으로 놓칠 수 있는 많은 부분을 자동으로 수정, 편집할 수 있수 있어 결과적으로 긴 편집 시간을 최대한 줄여준다. 

■ 서시히 도래하고 있는 AI 컴퓨터 시대는 어떻게 될까? 

인텔 코어 울트라 프로세서가 현재 걸어가고 있는 길은 기존 세대의 프로세서와는 성향이 많이 다르다.  단순히 일반 사용자의 영역 (오피스, 컨텐츠 크리에이션, 게이밍) 에서 AI 에 관련된 부분으로 넘거가는 선택을 한 것은 클라우드 및 엔터플라이즈 영역에서 AI 분야에 대한 나름대로의 결론을 도출했기 때문이다. 

인텔의 선택이 컴퓨터 분야에 AI 영역의 성공은 100% 장미빛 미래는 아닐 것이다.  하지만 중요한 것은 기업들의 엔터플라이즈 영역에서 가지고 있는 높은 AI 프로세싱 기술을 데스크탑 으로 내리면서 거쳐야 하는 시행착오를 겪고 있다고 볼 수 있다.  중요한 소프트웨어 분야에 조금 더 투자를 해야 되는 특히나 오픈 소스 관련된 그리고 개발자 들에게 많은 개발 툴 들과 다양한 API 를 공개, 제공하는 것이 조금 더 앞으로의 AI 시대에 앞서는 지름길이 아닐까 싶다.   

인텔의 입장에서는 조금 더 희망적인 사실은 GPU 기반의 AI 는 추론을 통한 이미지 및 동영상 생성 등에 아티스트 영역에 국한 되고 있어 일반인 들에게는 그 접점이 적은 것에 반해 운영체제와 직접적으로 결합되는 프로세서라는 특성상 조금 더 광범위하게 관여가 가능하다는 점이다.   특히나 앞으로 출시될 윈도우 12의 경우는 9~10세대 인텔 프로세서에서는 사용 가능한 기능을 100% 활용을 할 수 없다는 이야기도 나오고 있는데 이는 차세대 운영체제가 프로세서가 가진 NPU의 성능에 의존한다는 이야기로도 해석이 가능하기 때문이다.