llama-server.exe --list-devices
Available devices:
Vulkan0: Intel(R) UHD Graphics 770 (32650 MiB, 31882 MiB free)
Vulkan1: Intel(R) Arc(TM) A770 Graphics (16258 MiB, 15488 MiB free)
Vulkan2: Intel(R) Arc(TM) A770 Graphics (8098 MiB, 7328 MiB free)
회사에 A770 이 남아서 조금 갖고 놀아봤는데 인텔 끔찍합니다. llama.cpp 에서 SYCL 지원이 끊어진게 한달쯤 되었고 마지막 빌드 찾아서 받아보면 제대로 안돌아갑니다. SYCL.md 보면 추천 빌드가 2025/05 때 버젼 입니다. 그래서 Vulkan 으로 써야 하는데 가속이 별로 좋지 않습니다. llama.cpp 개발이 1차가 CUDA, 2차가 Metal 이다보니 나머지는 누군가 자원해서 최적화 하는 느낌입니다.
많이쓰는 툴에서 SYCL 조차 버리는 상황이란건 인텔이 LLM 관련 지원을 내려놨다고 보면 됩니다. 하드웨어는 작년에 칩을 발주했을테니 그냥 출고 하는걸테고 앞으로 기대를 접는게 좋을 것 같습니다. AMD 도 맘편하게 쓰려면 Vulkan 을 써야해서 개발은 계속 되겠지만 인텔 제품 자체가 LLM 에 최적하 되어 있지 않으니까요.
A770 으로 비교한 것이이 미안해서 B70 은 벤치마크 를 검색해보면 두배 가까이 빨라지긴 했습니다. 참고로 5060Ti 16GB 에 같은 모델 올렸을때의 A770 16GB 한장으로 딱 1/4 속도 나옵니다.
깔끔한 화이트 감성 디자인에 DDR5와 PCIe 5.0을 지원해 최신 AMD 시스템을 구성하기 좋고,
12+2+2 페이즈의 탄탄한 전원부와 대형 방열판 덕분에 고성능 CPU도 안정적으로 사용할 수 있으며,
Wi-Fi 6E와 2.5Gb 유선랜까지 갖춰 게임은 물론 작업 환경에서도 빠르고 쾌적한 네트워크 성능을 제공하는 믿음직한 메인보드입니다