llama-server.exe --list-devices
Available devices:
Vulkan0: Intel(R) UHD Graphics 770 (32650 MiB, 31882 MiB free)
Vulkan1: Intel(R) Arc(TM) A770 Graphics (16258 MiB, 15488 MiB free)
Vulkan2: Intel(R) Arc(TM) A770 Graphics (8098 MiB, 7328 MiB free)
회사에 A770 이 남아서 조금 갖고 놀아봤는데 인텔 끔찍합니다. llama.cpp 에서 SYCL 지원이 끊어진게 한달쯤 되었고 마지막 빌드 찾아서 받아보면 제대로 안돌아갑니다. SYCL.md 보면 추천 빌드가 2025/05 때 버젼 입니다. 그래서 Vulkan 으로 써야 하는데 가속이 별로 좋지 않습니다. llama.cpp 개발이 1차가 CUDA, 2차가 Metal 이다보니 나머지는 누군가 자원해서 최적화 하는 느낌입니다.
많이쓰는 툴에서 SYCL 조차 버리는 상황이란건 인텔이 LLM 관련 지원을 내려놨다고 보면 됩니다. 하드웨어는 작년에 칩을 발주했을테니 그냥 출고 하는걸테고 앞으로 기대를 접는게 좋을 것 같습니다. AMD 도 맘편하게 쓰려면 Vulkan 을 써야해서 개발은 계속 되겠지만 인텔 제품 자체가 LLM 에 최적하 되어 있지 않으니까요.
A770 으로 비교한 것이이 미안해서 B70 은 벤치마크 를 검색해보면 두배 가까이 빨라지긴 했습니다. 참고로 5060Ti 16GB 에 같은 모델 올렸을때의 A770 16GB 한장으로 딱 1/4 속도 나옵니다.
깔끔한 화이트 감성 디자인에 DDR5와 PCIe 5.0을 지원해 최신 AMD 시스템을 구성하기 좋고,
12+2+2 페이즈의 탄탄한 전원부와 대형 방열판 덕분에 고성능 CPU도 안정적으로 사용할 수 있으며,
Wi-Fi 6E와 2.5Gb 유선랜까지 갖춰 게임은 물론 작업 환경에서도 빠르고 쾌적한 네트워크 성능을 제공하는 믿음직한 메인보드입니다
메모리를 보호하는 넓은 차폐층을 두어 외부 간섭으로부터 메모리를 보호하고 자동 부스터 기능으로 시스템이 과부화 상태일 때 클릭 한번으로 자동 부스트할 수 있는 점과 사용자 환경에 맞는 CPU 업그레이드 셋팅이 반영된 BIOS 프로필 생성 및 기존 방열판보다 표면적이 더 커져 MOSFET의 방열을 향상시켜서 좋은 것 같아요