Apple M5 Ultra 벤치마크가 DGX Spark 비교에서 소프트웨어가 중요한 이유를 보여주는 배경
Apple M5 Ultra 벤치마크는 Nvidia의 DGX Spark 플랫폼과 비교해 엇갈린 결과를 보여준다. 어떤 모델과 소프트웨어를 쓰느냐에 따라 승자가 달라진다. Tom’s Hardware는 256GB Mac Studio를 단일 구성의 유사한 Nvidia 시스템 및 2대 구성과 비교 테스트했다. 이 결과는 메모리 용량이나 칩 사양만으로 로컬 AI 비교의 결론을 내릴 수 있다는 생각에 의문을 제기한다.
핵심 경쟁 구도는 Apple의 하드웨어 여유와 Nvidia가 제공하는 소프트웨어 경로 사이에 있다. 학습된 모델을 자신의 장비에서 실행하는 로컬 추론은 두 요소 모두에 좌우된다. 워크스테이션이 모델을 수용할 수 있어도, 이를 효율적으로 서비스하는 데 필요한 소프트웨어 구성이 부족할 수 있다.
개발자와 소규모 팀에게 이러한 차이는 구매 판단의 기준을 바꾼다. 유용한 비교는 현재의 워크로드에 활용 가능한 전체 구성에 관한 것이다. Apple의 더 큰 메모리 옵션은 새로운 기회를 만들지만, Nvidia의 경쟁 방식은 Apple의 모델 지원과 실행 소프트웨어에 압박을 가한다.
Apple M5 Ultra 벤치마크는 워크로드별로 다른 승자를 만든다
Tom’s Hardware의 로컬 AI 벤치마크는 소형 모델 에이전트 워크로드와 대형 모델 실험을 구분한다. 전자의 경우 언어 모델을 실행하는 소프트웨어인 llama.cpp를 통해 Qwen 3.8 27B를 두 플랫폼에서 실행했다. 양쪽 모두 추가 출력 토큰을 제안해 생성을 가속하는 멀티 토큰 예측을 활성화했다.
Mac은 DGX Spark와 유사한 Dell GB10 시스템보다 이 워크로드를 절반이 안 되는 시간에 완료했다. 해당 매체에 따르면 작업 에너지도 약 16% 적게 사용했다.
대형 모델 비교에는 2대 구성의 Nvidia 환경이 사용됐다. DeepSeek V4.1 Flash 1017에서는 Nvidia 클러스터의 서빙 구성이 우세했다. GLM 5.3 Flash에서는 Mac을 TensorFold 구성으로 전환하자 성능이 크게 개선됐다.
보고된 결과는 워크로드별 비교를 보여주며, 어떤 플랫폼이 앞서는지는 소프트웨어의 영향을 받는다. Tom’s Hardware는 이들 대형 모델에 대한 완료된 에이전트 테스트를 제공하지 않았기 때문에 전체 작업 성능에 관한 결론에는 한계가 있다. 이는 해당 매체의 측정값이며, 우리는 독립적인 하드웨어 테스트를 수행하지 않았다.
이 차이는 중요한데, 워크스테이션 벤치마크에는 하나의 점수로 위장된 여러 질문이 담겨 있기 때문이다. 장비가 요청된 모델을 로드할 수 있는가? 입력을 처리하는 데 얼마나 걸리는가? 답변은 얼마나 빨리 생성하는가? 각 질문은 사용자 경험의 서로 다른 부분을 설명한다.
짧은 프롬프트에 빠르게 답하는 시스템도 대규모 문서 모음을 받으면 기대에 못 미칠 수 있다. 반대로 초기 처리 속도가 느린 시스템도 긴 출력을 생성하는 동안에는 반응성이 좋게 느껴질 수 있다. 전체 승자를 선언하는 헤드라인은 이러한 차이를 지워 버린다.
이 차이는 독자가 Nvidia 비교를 해석하는 방식도 바꾼다. 단일 장비와 2대 구성은 서로 다른 구매 및 운영 선택지를 의미한다. 그 결과를 서로 바꿔 쓸 수 있는 것처럼 다루면 추가 장비와 관리 부담이 가려진다.
같은 주의는 Apple 구성에도 적용된다. 테스트된 Mac의 결과가 같은 칩 제품군을 탑재한 모든 Mac Studio를 자동으로 설명하지는 않는다. 사용 가능한 메모리와 소프트웨어 환경 역시 테스트 대상 제품의 일부다.
중요한 변화는 초기 하드웨어 인상에서 벗어나 워크로드별 근거로 옮겨갔다는 점이다. 구매자는 이제 데스크톱을 선택하기 전에 실행 소프트웨어를 검토할 더 분명한 이유를 갖게 됐다. 이는 모델 지원, 배포 레시피, 벤치마크 공개를 관리하는 주체들에게 압박을 이동시킨다.
서빙 레시피는 워크로드 실행에 필요한 모델 파일, 소프트웨어, 설정의 문서화된 조합이다. 구매자에게 그 제공 여부는 제품의 실질적인 역량 일부다. 레시피가 없으면 인상적인 사양도 구현 작업의 더 많은 부분을 소유자에게 남긴다.
메모리 여유는 Apple을 경쟁에 올려놓지만, 소프트웨어의 중요성도 높인다
Apple은 일반 컴퓨팅 작업을 처리하는 36코어 중앙 처리 장치를 갖춘 M5 Ultra 구성을 제시한다. 여기에 병렬 연산을 처리하는 80코어 그래픽 처리 장치를 결합한다. 회사는 메모리 시스템에서 데이터가 이동할 수 있는 속도인 1.2TB/s 메모리 대역폭을 명시한다.
Mac Studio 사양에는 이 구성에 256GB 및 512GB 통합 메모리 옵션도 기재돼 있다. 통합 메모리는 시스템 프로세서가 함께 사용할 수 있는 공유 풀이다. 이 사양은 용량과 하드웨어 설계를 설명할 뿐, 애플리케이션 성능을 입증하지는 않는다.
Apple의 메모리 옵션은 구매자가 고려할 수 있는 구성의 범위를 넓히며, 실제로 활용 가능한 모델 지원의 중요성을 높인다. 실질적인 질문은 지원되는 실행 경로가 그 용량을 수용 가능한 응답 시간으로 전환할 수 있는지다.
비공개 문서 어시스턴트를 평가하는 가상의 엔지니어링 팀을 생각해 보자. 이 팀의 워크로드에는 기술 사양서, 장애 보고서, 소스 코드가 포함된다. 팀은 선택한 모델과 요청 중 필요한 작업 데이터를 위한 충분한 공간이 필요하다.
이 환경에서 메모리 용량은 관문 역할을 한다. 의도한 워크로드를 수용할 수 없는 구성은 속도를 논하기도 전에 실패한다. 하지만 워크로드가 들어맞으면 구매 결정은 반응성, 답변 품질, 신뢰성으로 옮겨간다.
이 구분은 Apple을 둘러싼 개발자 생태계에 압박을 만든다. 더 많은 메모리는 구매자가 더 까다로운 워크로드를 시도할 이유를 제공한다. 이러한 시도는 더 작은 데모에서는 드러나지 않았을 수 있는 지원 공백과 비효율적인 실행 경로를 노출한다.
기대치의 문제도 있다. 구매자는 대용량 메모리 옵션을 보고 이를 생산적으로 활용할 수 있으리라고 합리적으로 기대한다. 사용 가능한 용량과 신뢰할 수 있는 애플리케이션 사이의 간격은 통합 책임이 된다.
그 책임은 구매자, 애플리케이션 공급업체, 또는 오픈소스 유지관리자에게 돌아갈 수 있다. 각 방식은 서로 다른 의미를 갖는다. 애호가는 실험을 반길 수 있지만, 공유 어시스턴트를 배포하는 사무실에는 예측 가능한 운영과 명확한 복구 경로가 필요하다.
메모리 여유는 사용 가능한 가장 큰 모델을 선택하는 것 이상의 가치를 지닌다. 팀은 이를 더 긴 입력, 추가 애플리케이션 구성 요소, 또는 동시 작업을 위해 남겨둘 수 있다. 적절한 배분은 실제로 구축하는 시스템에 따라 달라진다.
이 때문에 사용 가능한 메모리를 모두 채우는 것은 불완전한 벤치마크 목표다. 메모리가 완전히 사용된 장비는 유용성을 증명하지 못한 채 실행 가능성만 보여줄 수 있다. 독자는 해당 구성이 어떤 완료된 작업을 가능하게 하는지, 그리고 얼마나 일관되게 이를 완료하는지 알아야 한다.
Apple에게 경쟁 기회는 구체적이다. 상당한 메모리를 갖춘 데스크톱은 더 작은 구성을 넘어서는 워크로드를 가진 개발자를 끌어들일 수 있다. 이들을 유지하려면 개발자가 실제로 선택하는 모델을 위한 신뢰할 수 있는 실행 경로가 필요하다.
구매자에게도 그 의미는 분명하다. 용량은 목적이 있는 요구 사항으로 후보 목록에 들어가야 한다. 의도한 애플리케이션이 해당 구성에서 작동한다는 근거와 결합될 때 설득력을 얻는다.
Mac Studio와 DGX Spark의 승부는 완전한 서빙 구성에 달려 있다
Nvidia의 DGX Spark 하드웨어 문서는 128GB 통합 시스템 메모리와 273GB/s 메모리 대역폭을 명시한다. 데스크톱 AI 개발을 목표로 한 통합 Grace Blackwell 설계를 설명한다. 이 공개 사양은 보편적인 성능 순위가 아니라 하드웨어 기준선을 제시한다.
따라서 이 비교는 소프트웨어가 실행되기 전부터 서로 다른 하드웨어 선택을 포함한다. Apple은 더 큰 메모리 구성을 제공하는 반면, Nvidia 시스템은 자체 실행 환경을 갖춘다. 2대 구성의 Nvidia 환경은 별도 평가가 필요한 또 하나의 아키텍처 선택을 추가한다.
Mac Studio와 DGX Spark 비교는 작동하는 배포 환경을 비교할 때 가장 유용하다. 구매자는 동일한 실질적 제약 아래에서 각 완전한 구성이 무엇을 제공하는지 이해해야 한다.
동일한 소프트웨어를 플랫폼 간에 비교해야 할 타당한 이유가 있다. 실행 엔진을 일정하게 유지하면 변동 요인 하나를 줄일 수 있다. 이는 공유 애플리케이션이 서로 다른 하드웨어에서 어떻게 동작하는지 드러내는 데 도움이 된다.
각 플랫폼에서 활용 가능한 최선의 구성을 비교해야 할 타당한 이유도 있다. 이 방식은 다른 질문에 답한다. 현재 제공되는 소프트웨어를 사용했을 때 소유자는 무엇을 얻을 수 있는가? 플랫폼이 서로 다른 최적화 경로를 지원할 때 구매 현실을 더 잘 반영한다.
어느 접근법도 그 목적을 감춰서는 안 된다. 공유 엔진 비교는 각 플랫폼이 달성 가능한 최대 성능을 입증하지 않는다. 최선의 활용 가능 구성 비교는 하드웨어가 기여한 부분을 분리하지 않는다.
기존 애플리케이션을 유지하는 개발자에게는 소프트웨어 연속성이 결정적일 수 있다. 애플리케이션을 유지하면서 장비를 교체하는 편이 전체 실행 환경을 바꾸는 것보다 쉬울 수 있다. 더 빠른 대안도 도입에 상당한 애플리케이션 작업이 필요하다면 매력이 줄어든다.
새 프로젝트에서는 이 제약이 더 약할 수 있다. 팀은 플랫폼과 서빙 소프트웨어를 함께 선택할 자유가 더 크다. 평가는 관련 없는 애플리케이션의 가정을 물려받는 대신 이러한 자유를 반영해야 한다.
Mac Studio와 DGX Spark 논의에서는 개별 워크스테이션과 공유 서비스도 구분해야 한다. 혼자 작업하는 사람은 대화형 반응성과 간단한 운영을 우선시할 수 있다. 팀은 서비스가 사용할 수 없게 될 때 경합, 요청 처리, 복구를 검토해야 한다.
2대 구성은 성능이 매력적일 때에도 운영상의 질문을 추가한다. 소유자는 구성 일관성과 장비 간 관계를 고려해야 한다. 이러한 작업은 처리량과 함께 배포 평가에 포함돼야 한다.
Apple의 접근 방식도 자체적인 질문을 제기한다. 특정 실행 경로에 의존하는 구매자는 업데이트가 기능을 유지할 것이라는 확신이 필요하다. 다른 사용자가 광범위한 문제 해결 없이 재현할 수 있을 때 성공적인 데모의 가치는 더 커진다.
이로써 소프트웨어 지원은 실질적인 경쟁 자산이 된다. 하드웨어를 받은 시점과 사용 가능한 애플리케이션을 확보하는 시점 사이의 불확실성을 줄인다. 구매자는 작동 사례, 문서화된 버전, 재현 가능한 동작을 통해 그 감소 폭을 평가해야 한다.
경쟁 압력은 양방향으로 작용한다. Apple은 더 많은 워크로드에서 하드웨어 옵션을 유용하게 만드는 소프트웨어가 필요하다. Nvidia는 의도한 고객에게 운영 복잡성을 정당화할 수 있는 완전한 배포 환경이 필요하다.
더 빠른 생성 속도만으로 전체 작업 성능을 결론낼 수는 없다
Apple M5 Ultra 벤치마크는 반복되는 측정 문제도 드러낸다. 독자는 애플리케이션이 들어오는 자료를 처리하는 데 상당한 시간을 쓰는 상황에서도, 그 대기 시간을 제외한 출력 속도 수치만 받는 경우가 많다. 이러한 누락은 중요하다.
프리필은 모델의 입력을 처리하는 단계다. 디코딩은 출력을 생성하는 단계다. 모델이 처리하는 텍스트 단위인 토큰은 두 단계를 측정하는 공통적인 방법을 제공한다.
배포는 유용한 결과를 만들어내는 데 걸리는 시간으로 평가해야 합니다. 생성 속도는 그 결과에 기여하지만, 사용자는 그 전후의 모든 과정을 경험합니다.
낯선 장애에 관한 질문을 받는 엔지니어링 어시스턴트를 생각해 보세요. 애플리케이션은 관련 문서를 수집해 모델에 전송합니다. 이후 사용자는 처리 과정과 답변을 기다리며, 도구가 추가 정보를 반환한 뒤에는 또 다른 요청을 기다릴 수도 있습니다.
더 빠른 출력 스트림은 답변 중에는 도움이 됩니다. 하지만 그 스트림이 시작되기 전 단계에 대부분의 시간을 쓰는 요청에는 효과가 제한적입니다. 입력, 출력, 그리고 주변 애플리케이션 동작에 따라 균형은 달라집니다.
이 구분은 소프트웨어가 모델 요청과 외부 작업을 연속해서 수행하는 에이전트 워크로드에서 특히 중요합니다. 고립된 응답의 벤치마크만으로는 그 전체 순서를 충분히 설명할 수 없습니다. 평가는 실제 애플리케이션과 닮은 워크로드를 필요로 합니다.
AgentPerf-Local benchmark는 에이전트 워크로드를 기준으로 로컬 서빙 성능을 측정하는 프레임워크를 제공합니다. 이 도구의 유용성은 워크로드를 명확히 드러낸다는 데 있습니다. 다만 독자는 서빙 성능과 에이전트가 올바른 결정을 내리는지 여부를 구분해야 합니다.
시스템은 정해진 요청 순서를 빠르게 실행하면서도, 별도의 실제 애플리케이션에서는 부적절한 답변을 낼 수 있습니다. 반대로 성능이 뛰어난 모델도 서빙 환경이 과도한 대기 시간을 유발하면 생산성이 낮게 느껴질 수 있습니다. 품질과 실행 속도에는 각각의 근거가 필요합니다.
구매자에게 의미 있는 단위는 대개 완료된 작업입니다. 어시스턴트가 관련 인시던트를 식별했는가? 사용할 수 있는 코드 변경을 만들었는가? 그 답변은 원본 문서를 기준으로 한 검토를 통과했는가?
이 질문들이 하위 수준의 측정 지표를 불필요하게 만드는 것은 아닙니다. 오히려 그 측정값에 목적을 부여합니다. 입력 처리 시간은 지연의 원인을 설명하는 데 도움이 되고, 생성 속도는 답변이 진행되는 속도를 설명하는 데 도움이 됩니다.
이들 간의 관계는 애플리케이션 설계에도 영향을 미칩니다. 변경되지 않은 자료를 반복 전송하는 것은 매번 새 입력을 처리하는 것과 다른 워크로드를 만듭니다. 벤치마크는 자신이 어떤 상황을 나타내는지 공개해야 합니다.
동시성, 즉 동시에 실행되는 요청 수는 또 다른 구분을 더합니다. 개인 사용자에게 편안한 경험이 팀에도 수용 가능한 서비스를 보장하는 것은 아닙니다. 공유 배포 환경은 예상 수요 하에서의 근거를 필요로 합니다.
바로 이 지점에서 현재 비교는 하드웨어 애호가를 넘어 유용해집니다. 애플리케이션 소유자가 자신의 워크로드에서 실제로 대기 시간을 유발하는 부분이 무엇인지 묻게 합니다. 그 답이 어떤 벤치마크 결과에 주목해야 하는지를 결정합니다.
또한 고립된 차트로부터 잘못된 추론을 하는 일을 막아 줍니다. 생성 처리량의 우위는 해당 측정값에 관한 주장을 뒷받침합니다. 이를 전체 에이전트 성능으로 확대하려면 추가 테스트가 필요합니다.
양자화와 누락된 지원은 결론을 조건부로 남긴다
가장 큰 불확실성은 테스트한 각 구성이 비슷한 수준의 유용성을 제공하는지에 관한 것입니다. 더 적은 비트로 모델 값을 저장하는 양자화는 실행 중 사용되는 표현 방식을 바꿉니다. 메모리 절감 효과와 함께 그 결과를 평가해야 합니다.
모델이 메모리에 들어가고 빠르게 응답하더라도, 허용 가능한 답변을 만들어야 합니다. 출력이 의도한 작업에 적합하게 유지될 때 성능 측정은 구매 근거가 됩니다.
플랫폼마다 서로 다른 모델 파일이나 실행 경로를 사용할 경우 비교는 까다로워집니다. 이런 차이는 실제 배포에서는 충분히 합리적일 수 있습니다. 동시에 결과를 기반 칩의 특성으로 돌리기는 더 어려워집니다.
따라서 구매자는 실행 가능성과 동등성을 구분해야 합니다. 실행 가능성은 구성이 작동하는지를 묻습니다. 동등성은 비교된 구성들이 구매 결론을 뒷받침할 만큼 충분히 유사한 요구사항을 충족하는지를 묻습니다.
문서 어시스턴트의 경우 이러한 요구사항에는 정확한 참조와 원본 자료의 충실한 처리가 포함됩니다. 코딩 애플리케이션의 경우에는 사용할 수 있는 변경 사항과 도구 주변에서의 적절한 동작이 포함됩니다. 유창한 답변만으로는 어느 경우도 판단할 수 없습니다.
같은 수준의 검토는 가속 기능에도 적용됩니다. llama.cpp 문서는 speculative decoding을 설명합니다. 이는 미래 토큰을 제안하고 주 모델을 통해 이를 검증하는 방식입니다. 사용 가능한 구현은 서로 다르므로, 정확한 구성은 측정된 모든 이점과 관련이 있습니다.
이 메커니즘은 소프트웨어 제공 여부가 하드웨어 가치를 좌우하는 이유를 보여 줍니다. 한 구성에서 유용한 가속 경로가 다른 구성에서도 제공된다고 가정할 수는 없습니다. 구매 비교의 대상은 의도한 워크로드에 대해 실제로 존재하는 구현입니다.
메모리 사용량도 저장된 모델에만 국한되지 않습니다. 중간 어텐션 데이터를 보존하는 키-값 캐시도 실행의 또 다른 구성 요소입니다. 입력과 소프트웨어 설정은 그 주변의 실제 작업 구성을 좌우합니다.
MLX-LM documentation는 캐시 크기, 프롬프트 재사용, 입력 처리 단계에 대한 제어 기능을 설명합니다. MLX는 Apple silicon을 위한 배열 컴퓨팅 프레임워크입니다. 해당 문서는 이러한 제어 기능이 메모리, 속도, 품질 측면의 고려사항을 수반한다는 점을 분명히 합니다.
이러한 기능은 특정 벤치마크 구성에 대한 증거가 아니라 유용한 맥락을 제공합니다. 구매자는 선택한 엔진이 어떤 기능을 사용하는지 여전히 확인해야 합니다. 프로젝트마다 비슷한 용어를 사용한다고 해서 동일한 동작이 보장되지는 않습니다.
유지 관리와 관련된 추가 불확실성도 있습니다. 최적화된 구성은 특정 소프트웨어 버전에 의존할 수 있습니다. 이후 업데이트가 적용되면, 소유자가 그 동작이 계속 적합하다고 가정하기 전에 검증이 필요합니다.
취미 사용자에게는 이런 불확실성을 관리하는 일이 받아들일 만할 수 있습니다. 기업에는 서비스 소유권의 일부가 됩니다. 누군가는 작동하는 구성을 유지하고 성능 회귀를 조사할 책임을 맡아야 합니다.
지식 근로자도 이와 관련된 경계에 직면합니다. 로컬 모델 실행만으로는 애플리케이션이 정보를 어떻게 수집하고 저장하며 공유하는지가 확립되지 않습니다. 주변 워크플로는 별도의 검토가 필요합니다.
문서 어시스턴트를 계획하는 팀은 searchable knowledge base를 별도의 워크플로 참고 자료로 활용할 수 있습니다. 이 글은 remio가 테스트된 어느 구성과도 호환된다는 증거로 해석해서는 안 됩니다.
조건부 결론은 이러한 구분에서 나옵니다. 하드웨어는 여유와 컴퓨팅 자원을 제공할 수 있지만, 애플리케이션은 여전히 지원되는 실행 환경과 허용 가능한 출력에 의존합니다. 구매자는 벤치마크 우위를 배포상의 장점으로 간주하기 전에 그 사슬 전반에 걸친 근거를 필요로 합니다.
다음 비교에는 더 폭넓은 지원과 재현 가능한 애플리케이션이 필요하다
Apple M5 Ultra 벤치마크는 유용한 출발점을 마련하지만, 앞으로 몇 달 동안 채워야 할 구체적인 근거 공백도 남깁니다. 주목할 다음 변화는 모델 지원, 배포 재현성, 완전한 애플리케이션 동작과 관련됩니다.
가장 강력한 후속 근거는 문서화된 구성을 재현 가능하고 유용한 워크로드와 연결할 것입니다. 또 다른 고립된 속도 결과도 정보를 더하겠지만, 여러 구매 관련 질문은 여전히 해결되지 않은 채 남을 것입니다.
첫째, 문서화된 성능을 갖춘 대형 모델의 범위를 넓히는 작동 가능한 Apple 실행 경로를 지켜보아야 합니다. 의미 있는 신호는 식별 가능한 모델 파일과 소프트웨어 버전을 갖춘 재현 가능한 구성입니다. 지원 발표는 작동 사례보다 정보량이 적습니다.
이러한 구성들이 허용 가능한 품질과 응답성을 제공한다면 Apple의 입지는 강화될 것입니다. 구매자가 이용 가능한 하드웨어 여유를 더 많이 활용할 수 있음을 보여 줄 것이기 때문입니다. 지속적인 공백은 특정 모델을 고집하는 고객의 불확실성을 유지할 것입니다.
이 신호에는 폭도 필요합니다. 성공적인 구성은 해당 모델과 워크로드에 관해 가치 있는 사실을 입증합니다. 추가 애플리케이션 전반의 근거는 플랫폼에 관한 더 폭넓은 결론을 뒷받침할 것입니다.
둘째, 운영 요구사항을 명확히 하는 재현 가능한 Nvidia 클러스터 배포를 지켜보아야 합니다. 유용한 근거에는 전체 장비 구성, 소프트웨어 환경, 반복 사용 중의 동작이 포함됩니다. 구매자는 자신이 실제로 무엇을 유지 관리하게 될지 알아야 합니다.
이러한 배포를 재현하기 쉬워진다면 Nvidia의 접근 방식은 숙련된 실험가를 넘어 실용적인 매력을 얻게 될 것입니다. 유지 관리가 계속 어렵다면, 원시 속도는 소규모 팀에서 덜 중요해질 것입니다. 관리 업무도 제품 경험의 일부입니다.
이 신호에는 업데이트와 장애가 가져오는 결과도 포함되어야 합니다. 시연 중 성능이 좋은 배포라도 이해하기 쉬운 복구 절차가 필요합니다. 일상 운영 전반에서의 재현성은 구매 근거를 강화할 것입니다.
셋째, 성능과 출력 요구사항을 모두 보존하는 완전한 애플리케이션 비교를 지켜보아야 합니다. 신뢰할 수 있는 평가는 작업, 성공 기준, 주변 애플리케이션 구성을 식별해야 합니다. 어떤 차이가 의도적인지 분명히 밝혀야 합니다.
이러한 근거는 현재의 서빙 결과가 유용하게 완료된 작업으로 이어지는지 검증할 것입니다. 애플리케이션에 따라 어느 플랫폼의 입지든 강화할 수 있습니다. 또한 하드웨어 속도가 최종 결과에 거의 영향을 미치지 않는 사례도 드러낼 것입니다.
현재로서는 방어 가능한 결론이 구체적입니다. Apple은 까다로운 로컬 워크로드에서 검토할 가치가 있는 하드웨어 선택지를 보유하고 있습니다. 현재 근거는 또한 이러한 선택지를 Nvidia의 대안과 평가할 때 소프트웨어 준비 상태가 필수 요소임을 보여 줍니다.
Apple M5 Ultra 벤치마크를 바탕으로 행동하기 전에, 실행해야 하는 애플리케이션과 성공으로 간주할 결과를 적어 두세요. 모델, 예상 입력, 허용 가능한 대기 시간, 출력 요구사항을 식별하세요. 이러한 요구에 맞는 문서화된 구성을 사용한 시연을 요청하세요. 답변 스트림만 보지 말고 반복 요청과 주변 애플리케이션 단계도 포함하세요. 공동 사용 환경에서는 팀이 일반 업무 중 예상하는 수요도 포함하세요. 다른 사람이 비교를 검토할 수 있도록 구성과 결과를 함께 보관하세요. 그다음 시스템이 오늘 요구사항을 충족하는지 판단하세요. 신뢰할 수 있는 답변과 감당할 수 있는 운영 부담을 갖추고, 어떤 제공 가능한 구성이 여러분의 작업을 반복해서 완료할 수 있습니까?



