AI에 대한 관심도는 꾸준히 우상향 중이다. 관심도가 증가한다는 것은 기존 사용자 증가와 더불어 잠재적인 소비자(사용자, 유료 구독자)의 수요도 증가할 수 있다는 해석이다. 이미 B2B 시장에서는 빠르게 성장 중에 있으며, B2C 시장에서도 클로드AI를 활용하여 나만의 AI비서를 활용하는 경우도 왕왕 있다.

클로드 AI 외에도 우리가 대중적으로 쉽게 접할 수 있는 AI를 몇 개 꼽아보자면 챗GPT, 제미나이, 퍼플렉시티 등이 대표적이라 할 수 있다. 유료결제를 하지 않더라도 간단한 자료 서치 및 경제/산업 리포트 및 코딩 등의 활용으로 충분히 활용할 수 있다 보니, 다양한 직업군의 사용자가 AI를 활용하고 있는 요즘이다.

AI의 활용이 늘어남에 따라 다시금 중요하게 자리 잡은 것은 ‘보안’이다. 기존의 AI는 학습된 데이터 및 개인적인 데이터 자료를 AI 클라우드에 자료를 업로드한 후, 학습된 데이터로 답변이 출력되는 로직이다.

때문에 기업 입장에서는 해당 주요 고객 정보, 매출, 공장에 적용된 공정 등과 같은 모든 데이터가 노출될 수 있어, 직접 온프레미스 AI를 구축을 하는 경우가 증가하는 추세다.

개인 사용자도 마찬가지다. 직접 조사하고 정리한 데이터, 일정, 자료, 리서치 자료, 산업 분석 등을 AI 에이전트로 구동한다면? 설정에 따라 해당 AI 에이전트 PC 내에서만 자료가 공유되고, 학습됐기에 유출에 대한 걱정을 접어둘 수 있다.

더불어 보안뿐만 AI 에이전트 PC를 활성화한다면 여러 장점이 있다. 특정 키워드를 적용한 웹 서치 결과를 AI에 자동 루프 설정을 해놓으면, 해당 뉴스와 SNS 키워드 등을 지속적으로 서치하여 정리해 주는 AI 비서와도 같은 역할로 활용할 수 있다.

해당 자동 루프 기능을 어떻게 활용하느냐에 따라 개인 일정 관리는 물론, 회사에서 혹은 스터디 모임에서 진행하며 쌓아온 데이터를 기반으로 학습시킨 후, 원하는 데이터값 혹은 필요로 하는 키워드 별로 정리하여 출력하는 등으로도 사용할 수 있다.

이러한 AI 에이전트 PC는 디바이스 안에서 AI 모델을 돌리고, 자료 취합과 프로그램을 활용한 결과물 도출 등 여러 작업을 동시에 구동하기 때문에 비교적 높은 PC 사양을 요구한다. 그렇다면 개인이 AI 에이전트 PC를 활용하기 위해서는 어느 정도의 PC 사양이 필요할까?

ㅁ 나만의 로컬 AI 에이전트를 활용할 PC 구성은?

AI의 활용에 따라서 챗 GPT와 제미나이 같이 클라우드 서버에 질문을 던지고 답변을 받는 형태로 활용하고자 한다면, PC의 사양을 크게 신경 쓰지 않아도 된다. 하지만 최근 트렌드는 내 PC 안의 데이터베이스를 활용하는 로컬 AI 에이전트 구축으로 진화하고 있다.

이런 경우라면 CPU부터 전반적인 PC 사양에 신경을 쓸 수밖에 없다. 그래서 인텔 CPU는 인텔 코어 울트라7 270K Plus를 기준으로 적용했다. 왜냐하면 에이전트 AI PC라면 CPU의 오케스트레이션 즉 여러 개의 시스템과 애플리케이션 서비스와 작업 등을 병목 없이 처리할 수 있는 CPU의 활용도 중요해지기 때문이다.

CPU 스펙으로는 P코어 8개 E코어 16개 구성으로 다양한 멀티태스킹 환경에 최적화되어있으며, 인텔 그래픽스 Xe-LPG가 적용되어 가벼운 백그라운드 연산은 물론이거니와 모니터 출력을 내장그래픽으로 연결하여 외장그래픽의 VRAM을 AI에 100% 온전히 활용할 수 있다.

대용량 VRAM이 탑재된 하이엔드 그래픽 카드가 아닌 메인스트림급 그래픽 카드를 선택한다면, 로컬 AI 모델 구동에 필요한 VRAM을 조금이나마 더 확보할 수 있다.

업무용/작업용 PC 혹은 로컬 AI 에이전트 PC로 활용한다면 장시간 사용하는 환경에 노출되기 쉽다. 따라서 인텔 CPU를 구매할 때 인텔 공식 대리점을 통해 유통된 정품 CPU인지 아닌지를 확인하는 것이 권장된다. 기업이나 전문 작업자 입장이라면 더욱이 사후 지원(A/S)을 더욱 중요할 수밖에 없다.

인텔 정품 CPU는 공인 대리점을 통해 3사 어디서나 통합 A/S및 기술 지원이 가능하며, 장시간 사용에 노출되는 가혹한 환경은 상대적으로 고장 발생 가능성도 높아지기에, 만약 CPU에 문제가 생겨도 즉각적인 제품 교환과 같은 A/S를 받을 수 있기 때문이다.

반면 정품이 아닌 병행수입이나 출처가 불분명한 벌크 제품의 경우, 예기치 못한 문제 발생 시 제때 기술 지원이나 A/S를 받지 못해 업무에 불편함을 야기할 수 있으니 구매 전 반드시 확인하는 것을 권장한다.

상기의 이유로 CPU뿐만 아니라 MB, GPU 등 주요 부품이라면 동일하게 정식 국내 유통사를 통해 판매되는 정품 제품을 구매하는 것이 좋다.

거기에 로컬 AI로 활용한다면 백그라운드에서 AI 에이전트 엔진과 작업 프로그램이 구동되기 위해서는 대용량 DDR5 메모리가 필수다. 때문에 RAM 최소 32GB 이상, 여유가 된다면 64GB 구성을 추천한다.

그래픽카드는 오픈 Ai의 로컬 모델 GPT OSS 20b의 Q4_K-M기준 최소 권장 VRAM이 14~16GB이므로 입문형으로는 최소 RTX 4060Ti를 필요로 하며, Q6_K(6-Bit_고품질)의 고성능을 원한다면 보다 높은 VRAM을 적용한 RTX 3090 24GB 혹은 RTX 4080 24GB 이상의 모델을 활용하는 것이 권장된다.

모델 규모와 양자화 방식에 따라 차이는 있지만, AI 에이전트의 경우 학습보다 상대적으로 VRAM 요구량이 낮은 추론 모델 비중이 높다해도 여전히 기본적으로 요구량이 높다. 메타가 로컬 AI 에이전트를 위해 발표한 Muse Glimmer 30B 모델은 원래 정밀도로 55GB 이상을 요구하지만, 4bit 양자화 버전으로 요구량을 줄여도 17GB에 달하는 VRAM을 요구한다.

저장 스토리지는 1TB 이상을 권장한다. AI 모델 크기에 따라 용량 차이는 있겠지만, 여러 모델을 비교해 보면서 에이전트/코딩 작업을 본격화한다면 500GB로는 부족하기 쉽고, 여유가 된다면 2TB로 구성하여 넉넉한 스토리지를 확보하는 것이 유리하다.

메인보드의 경우엔 CPU/RAM 오버클럭을 진행하는 것이 아니기에 프리미엄급 고가의 보드로 갈 필요는 없다.

하지만 장시간 구동되어야 하는 에이전트 AI PC 특성 + 고사양 GPU와 NVMe SSD 조합으로 구성하는 만큼 안정성을 챙긴 메인스트림급 이상의 메인보드를 권장한다.

ㅁ너도 나도 사용하는 AI, 나도 한번 활용해보자.

AI를 어떻게 활용하느냐에 따라 업무 능률이 달라지는 시대라 해도 과언이 아니다. 이러한 내용을 일상 속에서 우리가 아주 쉽게 접할 수 있는 것이 구글 크롬에서의 간단한 인터넷 서치다.

구글에서 간단한 내용을 검색하게 되더라도 가장 상단에서 노출되는 것이 검색 내용의 핵심 정보를 AI가 노출시켜 준다. 예전처럼 하나의 올바른 정보를 찾기 위해 여러 개의 블로그/기사를 찾아보는 시대가 아니라, 한 번의 서치를 정확하게 잘 하여 빠른 결괏값을 얻어 내는 것이 중요한 요즘이란 말이다.

이러한 AI 활용에서도 이제는 자동화 AI 비서 같은 에이전트 AI PC에 대해 살펴봤다. 개인 정보 보안은 물론, 자동 루프를 통한 나만의 AI로직 활성화와 데이터(정보) 정리 및 학습에 강점이 있는 것이 AI 에이전트다.

때문에 일반적인 게이밍 PC 사양보다도 고사양을 요구하기도 한다. 특히 컴퓨터 자원의 효율적인 분배 즉 오케스트레이션이 중요해진 만큼, GPU뿐만 아니라 CPU도 중요하게 부각되고 있다. 최근 AI의 활용이 단순한 LLM을 넘어서 영상 편집, 코딩 등 다양한 작업 환경에서도 활용되고 있다는 점을 반영하여 고사양으로 PC를 구성해 봤다.

하지만 메인스트림 용으로 경량화된 모델도 나오고 있으니, 입문용으로 가볍게 사용해 볼 예정이라면 앞서 언급했던 사양에서 GPU와 CPU 체급을 낮추어 세팅하는 것도 생각해볼 수 있다.