스페이스 오딧세이의 HAL 9000, 터미네이터의 스카이넷, 인터스텔라의 타스, A.I.의 데이비드, 아이로봇의 써니, 이글 아이의 아리아, 미션 임파서블의 엔티티 등, 각종 매체에서 AI가 다뤄졌고, AI 서비스 개발을 위한 기업들의 노력은 종종 뉴스를 타며 현실에서도 AI 활용도가 높아지고 있다.

매체에서 다루는 정도의 강인공지능은 아니라도, 여러 기업들이 차세대 먹거리 사업으로 AI를 선정, 각종 플랫폼에 적용하기 위해 노력해 왔지만 AI 스피커, 빅스비나 구글 어시스턴트 따위의 서비스, 혹은 특정 프로그램에 종속된 기능 같이 쓰는 사람만 쓰는 그런 느낌이 강한 때가 있었다.

그러나 사용자가 직접 대화하듯 이용할 수 있는 생성형 AI 서비스인 챗GPT의 등장은 일반인들에게도 AI의 발전을 직접적으로 경험할 수 있는 계기를 마련해줬고, 이로 인해 AI에 대한 일반인들의 관심이 급격히 높아지면서 본격적으로 일상 속에 스며들기 시작했다.

한가지 신경 쓰이는 점을 들자면, 이런 생성형 AI는 대규모 데이터를 기반으로 학습, 추론을 활용하기 때문에 아직도 학습 데이터와 결과물에 대한 각종 권리 논쟁이 이어지고 있으며, 사용자 입장에서도 자신의 데이터가 서비스 업체에 넘어가는 것에 대한 거부감을 피할 수 없다.

기업들은 이렇게 수집한 개인 정보를 익명 처리, 암호화해 안전하다 말하지만, AI에 대한 관심이 높아지기 전에도 각종 앱 및 웹을 통해 수집한 개인 정보에 대해 철저한 보호를 표명하면서도 4월 하순 발생한 SKT 해킹 사건같이 실제로는 제대로 보호하지 못했거나, 불법 활용한 정황이 여러 차례 발견된 전적이 있다.

AI 서비스를 위한 학습용 자료가 유출되거나 오용되지 않을지 불안감이 남아 있고, 실제로 모 기업에서 내부 프로젝트 관련 질문을 챗GPT에 올렸다 자료가 외부에 노출되는 사고도 발생할 수 있어, 직원들이 업무에 챗GPT를 활용하는데 보수적으로 접근하고 있다.

광범위해진 AI 시대, 개인 정보 보호를 위한 온디바이스 요구

자신의 PC와 스마트폰에서 AI 기능을 일상적으로 접할 수 있는 시대인 만큼, 서버단에서 처리해 결과물을 받아오는 기존 방식은 개인정보 유출에 대한 우려를 키울 수 밖에 없고, 자연히 온디바이스 AI에 대한 요구도 커지고 있다.

소비전력에 민감한 모바일 플랫폼에 이어 데스크탑 PC용 CPU에도 NPU 통합이 이뤄졌고, 자연히 이렇게 통합된 NPU를 활용한 기능들도 늘고 있다. 대표적인 것이 MS에서 발표한 코파일럿+PC의 다양한 기능들을 들 수 있다.

그림판과 메모장, 엣지 브라우저와 같은 기본 프로그램에 AI 기능을 통합해 고가의 전문 프로그램을 구독, 구매하지 않고도 디바이스의 자체 NPU를 활용, 온라인 연결없이 자체적으로 AI 기능을 활요할 수 있다.

시청 중인 영상의 실시간 자막 생성 및 번역, 최근 유행하고 있는 지브리 스타일 이미지 변환, 스크립트 기반 이미지 생성, 문서 요약 및 정리, 웹 탐색을 도와주는 코파일럿 비전 등, 일상적인 PC 이용자를 위한 온디바이스 AI 기능이 도입된다.

그뿐 아니라, PC에서도 NPU 통합이 진행됨에 따라 그래픽 카드나 서버 단에서 AI 기능을 구현하던 전문 프로그램들도, NPU 활용을 모색하는 등, NPU와 함께 PC에서의 AI 기능 활용도가 넓어지고 있다.

게임 분야에도 확대 적용되는 AI

이는 게임에서도 마찬가지다. 최신 게임을 즐기는 게이머라면 AI 기반 업스케일링 기술이 적용되고 있다는 사실은 이미 잘 알고 있을 것이다. 최신 업스케일링 기술은 단순히 화면을 키우는데 그치지 않고 전후 관계를 파악해 새로운 프레임을 그려내는 수준까지 발전했다.

이를 위해 오늘날 최신 그래픽 카드의 핵심인 GPU에는 자체 NPU가 탑재되어 있으며, 게임을 플레이하지 않을 때는 다른 프로그램에서 해당 NPU를 활용해 작업 효율을 끌어 올릴 수 있다.

게임 관련 AI 기능은 업스케일링이 잘 알려졌지만, 추가적인 기능 확대가 시도되고 있다. 대표적으로 NPC가 실제 게임 세계관에서 살아있는 듯한 반응을 보여주기 위한 도구로 쓸 수 있다.

3월 말 얼리 엑세스로 출시된 크래프톤의 인조이(INZOI)에서 실제 적용 중이며, 배틀그라운드의 AI 동료인 PUBG ALLY, 미르 5 보스에 AI 학습 기능이 예고 되었으며, 그 외에 다양한 게임들이 AI 기능 도입을 시도 중이다.

이렇게 게임에 직접 AI 기능이 활용되는 경우도 있지만, 다른 방식으로 게임을 즐기는데 AI 기능이 활용되고 있다.

대표적으로 게임 방송시 마이크나 웹 캠을 활용하다 보면 주변 생활 소음이 들어갈 수 있고, 배경 스크린 구매할 환경이 되지 않아 실내 모습이 지저분하게 보이는 문제가 발생할 수 있다.

이런 때 활용할 수 있도록 AI 기반 마이크의 노이즈 감쇠나 웹 캠 화면의 배경 투명화 혹은 블러 처리 기능이 개발되었고, 애로우 레이크의 NPU를 지원하는 프로그램에서는 게임 성능을 좌우하는 CPU나 그래픽 카드의 부담없이 NPU로 이들 작업 처리가 가능하다.

이제는 AI에 익숙한 사용자들을 위해 각종 게임 정보와 공략을 찾아주는 게임 어시스트 기능도 개발되었다. 인텔은 NPU가 탑재된 애로우 레이크를 위해 오버레이 형식으로 음성 인식,또는 텍스트 입력을 통해 게임 공략을 보조해주는 'AI Game Assistant SDK'를 공개했다.

해당 기능은 GPU로도 가동할 수 있지만 완전히 애로우 레이크에 탑재된 NPU로 구동할 수 있어, NPU를 활용한다면 CPU와 GPU에 가해지는 부담을 줄여 더 나은 게임 성능과 경험을 제공할 수 있다고 소개되었다.

더 넓어진 일상속 AI 영역, 더 편해지는 AI 경험

최신 기술의 상당수는 군대나 연구소 등 특정 분야를 시작으로 민간에 문호를 개방하면서 그 활용 영역과 방식이 급격하게 발전하는 양상을 띈다. 오늘날 PC의 조상격인 애니악은 미국의 탄도 미사일 궤도 계산을 위해 사용되었지만, 이제는 그보다 훨씬 작은 크기와 비용으로, 성능 비교가 무의할 정도로 발전한 PC를 누구나 사용할 수 있는 시대다.

기업의 차별화를 위해 스마트 스피커 형식으로 일상에 스며든 AI는 자료 정리, 비교 등 사무 업무는 물론이고 일러스트, 애니메이션, 동영상, 음악, 소설 등 각종 창작 활동 지원 등으로 활용 영역이 넓혀졌고, 이제는 별도 구매나 구독이 필요한 프로그램에서 지원하던 AI 기능이 PC 운영체제 수준으로 확대되고 있다.

그뿐 아니라 고성능 PC를 업그레이드하는 주요 동기 중 하나인 게임 관련, 업스케일링에 쓰이던 AI 기능이 컴패니언 앱 활용이나 NPC의 AI 구현에 쓰이기 시작했다.

당연히 기존 구조의 시스템에서는 새롭게 적용된 AI 기능 구동에 성능에 부정적 영향을 끼치니 새로운 대응이 요구되었고, 대표적인 것이 인텔의 모바일 플랫폼용 메테오 레이크와 데스크탑 플랫폼용 애로우 레이크 같이 NPU가 통합된 CPU, 혹은 M.2 소켓 디자인의 확장형 NPU의 등장이다.

성능만 따진다면 그래픽 카드에 통합된 NPU에 비해 아직은 부족하고, 성능과 전력 효율 중 어느 쪽을 우선할지에 따라 최종 선택이 나뉘겠지만, AI 작업을 NPU가 전담하면서 자연히 기존 방식에서 피하기 어려운 성능 저하를 최소화할 수 있다.

GPU 통합 NPU에 비해 높은 전력 효율이라는 새로운 선택지도 제공한다. 여기에 상대적으로 낮은 성능의 CPU 통합 NPU를 통한 온디바이스 AI 환경 구축을 위한 LLM 모델의 소형화 작업도 진척을 보이고 있다.

대표적인 예를 들자면, MS에서 1bit LLM이라 부르는 BitNet b1.58 2B4T이 MIT 라이센스로 공개 중이다. 아직은 CPU 구동만 가능하지만 NPU와 GPU 구동 지원도 예정되어 있어, CPU에 통합된 NPU 및 AI 기능의 영역 확대와 더불어, 개인정보 보호를 위한 온디바이스 AI 시대 확립에 일조할 것으로 기대된다.