외부 체험단

내 노트북이 AI 전문가로 변신! 딥시크(DeepSeek) R1 한방에 설치방법! (feat. MSI 스텔스 14 AI Studio A1VFG-U7)

L2 david7 25.02.10. 20:33:53

3,002 4

딥시크(DeepSeek) R1이란?

딥시크 R1은 중국 AI 스타트업 딥시크에서 개발한 최신 추론형 언어 모델입니다. 오픈AI의 최신 ChatGPT-4o 모델과 견줄 만한 추론 능력을 제공하며, 생각 과정을 공개해 결과 도출의 과정을 한눈에 볼 수 있습니다. 더욱이 저렴한 비용으로 구동할 수 있어 개인 사용자나 소규모 팀에서도 부담 없이 사용할 수 있습니다. 딥시크 R1은 특히 텍스트 생성, 질문 응답, 그리고 다양한 콘텐츠 제작에 유용한 도구로 평가받고 있습니다.

최첨단 AI 딥시크 R1, 내 노트북에서도 쓸 수 있다면 얼마나 좋을까?

최근 챗GPT를 능가하는 성능으로 화제를 모으고 있는 딥시크 R1를 뉴스로 많이들 접하셨을 겁니다. 특히 "내 노트북에 딥시크 R1 모델을 직접 설치해서, 나만의 강력한 AI 비서로 만들 수 있다면" 내 업무, 과제, 생산성이 더욱 강력해 지지 않을까 하는 기대가 됩니다. AI 모델을 로컬에서 실행하는 것이 패키지들의 지원으로 점점 더 쉬워지고 있습니다. 오늘은 딥시크 R1 모델을 내 노트북에 설치하고 AI 머신으로 활용하는 방법을 단계별로 소개하겠습니다.

딥시크 사용 시 주의사항 및 준비사항

- GPU : 딥시크 R1은 GPU 가속을 적극 활용합니다. 노트북의 그래픽 카드 사양을 확인하고, 고성능 GPU가 없는 경우 성능 저하가 발생할 수 있습니다.

- RAM : 모델 실행 시 메모리와 GPU 자원 사용량을 살펴보며 스펙에 적합한 언어 모델 크기를 사용하시기 바랍니다.

- 개인정보 입력 주의: 노트북에서 돌리는 모델은 온라인 모델보단 안전하겠지만 그래도 어디서 어떻게 유출될지 모르니 민감한 정보를 입력하지 않는 것이 좋습니다.

- 업데이트 확인: 딥시크 R1은 지속적으로 업데이트되므로, 최신 설치 가이드와 커뮤니티 포스트를 참고하여 문제 발생 시 대응하는 것이 좋습니다.

제가 설치에 사용한 노트북 모델은 MSI 스텔스 14 AI Studio A1VFG-U7입니다. 인텔 코어 울트라 7 155H 칩셋에 엔비디아 지포스 RTX 4060 Laptop 8GB 그래픽 카드, DDR5 16GB 램을 탑재한 노트북으로서 중급-고급 사이 정도 되는 모델입니다. 너무 고가 모델은 가격 때문에 접근성이 어렵고 또 너무 가성비를 중시한 노트북에서는 모델을 돌리기에 무겁다는 느낌이 들것 같습니다.

1. 딥시크를 돌리기 위한 Msty 앱 설치

검색해 보면 다양한 방법들이 있지만 클릭 몇 번만 하면 사용해 볼 수 있는 가장 쉬운 방법을 설명드리고자 합니다. 먼저 Msty 프로그램을 다운로드하기 위해 msty.app 사이트에 접속하여 프로그램을 다운로드해 설치를 합니다. Msty 프로그램은 메타 라마(Llama 3), 딥시크 R1, MS 파이(Phi 4), 구글 젬마(Gemma 2), 알리바바 큐원(Qwen 2.5) 등 다양하고 유명한 LLM 모델들을 손쉽게 구동시켜주는 앱이라고 보시면 됩니다.

2. 모델 다운로드

처음 Msty 프로그램을 설치하고 나면 모델이 없는 상태이기 때문에 모델을 다운로드해 줘야 합니다. 다양한 유명 모델들이 있는데 이번에는 DeepSeek R1을 선택하여 다운로드 버튼을 눌러줍니다.

각 모델별로 용량과, 학습된 언어 양에 따라 현 로컬 디바이스에서 구동하기에 어느 정도 성능이 나오는지 동그란 그래프로 성능 표시를 해주고 있습니다. DeepSeek R1의 경우 100% 성능을 낼 수 있다고 표시하고 있고, Llama 3.3의 경우에는 다소 무겁게 느껴질 수 있을 것 같습니다.

3. 모델 선택 및 실시간 검색 옵션

모델이 다 다운로드해지고 나면 하단 바에 모델을 선택할 수 있는 드롭다운 메뉴가 있습니다. 여기서 DeepSeek R1을 선택합니다. 아직 항목이 안 떴다면 다운로드가 완료되지 않은 상태일 것입니다. 마음에 들었던 기능 중에 하나는 하단 바에 지구본 모양으로 생긴 [Real Time Data On/Off] 버튼을 통해 실시간 인터넷 검색을 켜고 끌 수 있다는 점입니다. 어떤 모델을 선택하든 실시간 검색 데이터를 기반으로 자료를 만들어주니 최신 정보를 요약하여 자료를 수집하는데 상당히 매력적입니다.

지금 사용 중인 노트북 모델명을 넣고 장단점이 뭐고 사람들의 반응은 어떤지를 조사해 보았습니다. 자기가 알았다고 하며 생각하는 과정을 보여줍니다. 생각하는 과정을 보여주는 것을 보니 제대로 설치가 되었고 잘 돌아가는 것을 확인할 수 있었습니다.

응답 속도도 무척 빨라서 기술의 발전을 몸으로 체감하며 느낄 수 있었습니다.

4. 긱벤치 벤치마크 점수

참고로 MSI 스텔스 14 AI Studio A1VFG-U7 노트북 모델의 성능을 수치화해두기 위해 긱벤치(GeekBench 6)를 돌려보았습니다. 프로그램을 실행하면 간략하게 스펙을 확인할 수 있습니다.

[Run CPU Benchmark]를 통해 인텔 코어 울트라 7 155H 칩셋의 싱글코어와 멀티 코어 점수를 확인하였습니다. 싱글코어 점수는 1874점, 멀티 코어는 7428점을 기록하였습니다.

[Run GPU Benchmark]를 통해 MSI 스텔스 14 AI Studio A1VFG에 탑재된 엔비디아 지포스 RTX 4060 Laptop GPU 8GB GDDR6 성능 점수를 확인해 보았습니다. 점수는 86422점이 나왔습니다. 여러분의 컴퓨팅 환경에서도 돌려보시고 성능을 가늠해 보시기 바립니다.