1편에서는 제 PC에서 로컬 AI를 계속 돌렸을 때 전력을 얼마나 쓰는지 확인했습니다. 이번에는 질문을 바꿨습니다.
요약이나 번역을 부탁하고 이미지를 만드는 정도라면, 매달 구독료를 내면서 클라우드 AI를 쓸 이유가 있을까요? 같은 과제를 ChatGPT Plus와 로컬 AI에 넣어보고, 답이 나오는 시간과 그대로 쓸 수 있는 결과가 얼마나 나오는지 비교했습니다.
같은 PC에서 같은 입력으로 비교했습니다
테스트 PC는 인텔 코어 울트라 7 265K, RTX 4060 Ti 8GB, RAM 32GB입니다.
1. 로컬 텍스트는 Ollama의 Qwen 3.5 4B Q4_K_M을 추론 모드를 끈 상태로 사용했습니다.
2. 이미지는 ComfyUI의 Z-Image Turbo를 FP8 가중치로 불러와 1,024×1,024 해상도, 8스텝으로 생성했습니다.
3. ChatGPT Plus에서는 텍스트에 웹 Instant 모드, 이미지에 웹 이미지 생성 기능을 사용했습니다. ChatGPT가 반환한 이미지는 1,254×1,254였습니다.
요약과 영어→한국어 번역, 이미지 생성에서 과제를 3개씩 준비했습니다. 양쪽에 같은 입력을 보냈고, 요청 제출부터 답변이나 이미지의 완료를 확인할 때까지 쟀습니다. 클라우드 시간에는 브라우저와 네트워크가 포함됐고 로컬 시간은 API에서 응답 완료를 확인한 값입니다.
로컬의 첫 텍스트와 첫 이미지에는 모델 로딩이 포함됐습니다. 표의 점수는 입력마다 미리 정한 조건 5개 중 몇 개를 충족했는지 나타냅니다. 결과는 서비스 이름을 가린 뒤 체크리스트에 따라 작성 보조 AI로 채점했습니다.
답은 로컬이 빨랐고, 번역에서 수정할 부분이 많았습니다
평균 시간은 요약이 ChatGPT 9.7초와 로컬 4.3초, 번역이 7.6초와 2.5초였습니다. 첫 일정 공지에서는 ChatGPT가 먼저 끝났습니다.
Ollama는 이 과제에 걸린 5.8초 가운데 약 4.3초를 모델 로딩에 썼고, 모델이 메모리에 올라간 뒤에는 나머지 텍스트 과제를 모두 5초 이내에 끝냈습니다.
도서관 운영 메모는 양쪽 모두 평균 대기 시간이 12분에서 7분으로 줄었다는 내용과 문의 14건, 후속 계획까지 담았습니다.
긴 회의록에서는 차이가 났습니다. 로컬 답변에서 예약 시작 후 10분 안에 입실 확인을 해야 한다는 규칙이 빠졌고, '같은 날 재예약'을 '즉시 재예약'으로 옮겼습니다. 숫자를 맞게 옮겼더라도 그 숫자가 뜻하는 내용까지 확인해야 하는 사례였습니다.
번역에서는 확인할 부분이 더 많았습니다. 로컬은 택배를 뜻하는 'parcel'을 '파기'로 옮겼고, '목요일 정오 전'을 '목요일 오전 12시 전'으로 번역했습니다. IT 안내문에서도 '펌웨어 1.4.2 이상'을 '1.4.2 또는 최신 버전'으로 표현해 적용 범위가 달라졌습니다.
ChatGPT는 이번 번역 3건에서 체크리스트의 조건을 모두 보존했습니다. 실제 안내문에 로컬 답변을 사용한다면 마감 시각과 적용 조건을 원문과 대조하는 시간이 더 필요합니다. 표에는 검수와 수정 시간이 포함돼 있지 않습니다.
이미지에서는 속도와 프롬프트 준수에서 차이가 났습니다
이미지 평균은 ChatGPT 29.2초, ComfyUI 20.4초였습니다. 편집 일러스트에서는 두 결과 모두 왼쪽에 청록색 책, 가운데 주황색 전구, 오른쪽에 남색 노트북을 배치했습니다.
제품 사진풍에서는 ComfyUI가 주황색 휠과 오른쪽 USB 수신기를 맞췄지만 무선 마우스에 케이블을 붙였고, 수신기에는 글자처럼 보이는 각인이 들어갔습니다.
풍경에서는 양쪽 모두 붉은 나무와 안개 낀 호수를 그렸고, 다리가 화면 왼쪽 아래에서 시작한다는 지시까지 따른 쪽은 ChatGPT였습니다.
구독료와 전기요금을 비교해보면
ChatGPT Plus의 공식 안내 가격은 월 20달러입니다. 실제 결제액은 국가와 결제 경로에 따라 달라질 수 있으므로 아래 계산에서는 월 구독료를 3만원으로 가정했습니다.
건당 금액은 월 구독료를 그달에 처리한 작업 수로 나눈 값입니다.
로컬은 1편에서 측정한 PC 본체 소비전력인 텍스트 약 200W, 이미지 약 220W를 이번 작업 시간에 곱했습니다. 전기요금은 1편의 월 300kWh 가구 예시에서 추가 24kWh에 6,180원이 늘어난 경우를 사용해 약 258원/kWh로 잡았습니다.
요약·번역·이미지 생성 비중이 각각 3분의 1이고, 이번 과제와 비슷한 시간에 끝난다고 가정한 결과입니다.
월 1,000건에서 약 140원이 나온 이유는 계산에 들어간 PC 작업 시간이 총 약 2시간 30분이기 때문입니다. 로컬 표에는 PC나 그래픽카드 구입비, 작업 사이에 PC를 켜둔 시간, 검수·재작업이 빠져 있습니다.
1편에서 같은 PC를 유휴 상태로 하루 8시간씩 30일 켜둔 경우만 해도 약 6,200원이었습니다. AI용으로 장비를 새로 구입한다면, 사용 기간으로 나눈 장비 비용과 평소 전기요금을 함께 계산해야 구독료와 비교할 수 있습니다.
이미 쓸 수 있는 PC가 있다면, 이번 결과를 기준으로 구조가 단순한 메모 요약과 이미지 시안부터 로컬에 맡겨볼 만합니다. 마감 시간이나 제품 설정이 들어간 번역을 자주 한다면, 원문을 다시 확인하고 오류를 고치는 시간도 구독 여부를 결정할 때 고려해야겠습니다.
이번 비교는 Qwen 3.5 4B와 Z-Image Turbo를 사용한 이 PC, 그리고 ChatGPT Plus에서 실행한 9개 과제에 한정됩니다.