최근 CES에서 주목받은 PC 카테고리 중 하나는 바로 “AI PC”였습니다. 인공지능의 대두로 인해 하드웨어 및 PC 칩 제조사들이 AI PC 개발에 사활을 걸고 있는 상황입니다. 인텔의 메테오레이크에 탑재된 NPU와 마이크로소프트의 윈도우 AI 기능이 이러한 변화를 주도하고 있죠.
지금 AI PC와 일반 PC가 하드웨어적으로 가장 크게 다른점은 Neural Processor Unit(NPU)의 존재입니다. NPU는 CPU나 GPU에 비해 AI 연산에 특화된 프로세서로, GPU보다 효율적인 인공지능 연산을 가능하게 합니다. 즉 더 적은 전력으로 더 좋은 성능의 AI 연산이 가능하다는거죠.
그러나 지금 당장은 AI PC를 구매할 필요가 전혀 없습니다. 지금 여러분이 사용하는 PC로도 AI 작업은 충분하거든요. 아직까지 AI PC는 마케팅 용어에 불과합니다. 그 이유는 다음과 같습니다.
AI PC의 NPU는 당신이 생각하는 AI에 사용되지 않는다.
많은 사무직 종사자들은 AI에 대해 매일매일 압박감을 느끼고 계실겁니다. 이 때문에 어떤 분들은 지금 사용하고 있는 PC를 조만간 출시될 AI PC로 교체해야 할지 고민하실 것 같습니다.
하지만 ChatGPT, Dall-E, Midjourney 등 현재 많이 쓰이고 있는 대부분의 AI 서비스는 클라우드 기반입니다. 인터넷을 통해 서버에서 실행되는 AI를 통해 데이터를 받아오죠. 이런 작업은 웹 브라우저를 실행할 수 있는 컴퓨터라면 충분합니다.
AI PC를 사용하더라도 이러한 서비스는 일반 PC를 이용하는 방식과 동일합니다. AI PC라고 해도 ChatGPT의 속도가 빨라진다거나 정확도가 높아지지 않는다는거죠.
AI PC를 로컬 AI 작업에 사용한다고 해도 당신이 하는 작업에 사용되지 않는다
일부 사용자는 스테이블 디퓨전과 같은 이미지 AI를 로컬 PC에서 돌리기도 합니다. 이러한 작업을 온디바이스 AI 작업이라고 합니다. 이런 온디바이스 작업은 서버가 아니라 PC의 자원으로 AI를 실행하기 때문에 AI PC라면 이런 작업에 유리할 수도 있습니다.
하지만 이러한 온디바이스 AI 작업에도 AI PC의 NPU는 그다지 유용하지 않습니다. 현재 AI PC에 탑재된 NPU의 성능은 너무 낮아서 대부분의 AI 연산은 GPU를 활용해야 합니다. 따라서 스테이블 디퓨전과 같은 작업을 수행한다면, 고성능의 GPU에 투자하는 것이 훨씬 더 현명한 선택입니다.
그러면 AI PC의 NPU는 어디에 쓰이나?
현재 판매될 예정인 AI PC의 NPU는 주로 온디바이스 머신러닝 작업에 사용될 예정이라고합니다. 화상 회의시 사용자와 배경을 분리해서 배경을 흐리게 처리하거나, 사용자의 사용 패턴을 학습해 배터리를 완전히 충전할 타이밍을 결정하는 배터리 최적화(윈도우 업데이트 필요)에 사용될 예정입니다.
그런데 이런 온디바이스 머신러닝 기능들은 맥에서 이미 활용되고 있으며, 맥에서는 이미 오래전에 완성된 기능입니다. 맥에서는 오래전에 배터리 최적화 기능이 들어갔고, 배경과 사람을 분리하는걸 넘어 화면 공유 효과도 다양하게 쓰이고 있죠. 지금의 AI PC에서 광고하는 AI 특화 기능은 현재 맥북에 비해 몇 세대 뒤떨어진 수준입니다.
그래도 AI PC를 사고 싶다면?
앞에서도 이야기했지만, 단지 AI 기능 때문에 AI PC를 사시려한다면 정말 말리고 싶습니다. 하지만 지금 단계에서 AI 기능이 탑재된 PC를 사시려한다면 AI PC 대신 맥북을 구매하는 것이 더 나은 선택일 수 있습니다. 맥북, 아이패드, 아이폰 등에는 이미 NPU인 뉴럴엔진이 탑재되어 있으며, AI 작업에 적극적으로 활용되고 있습니다.
또한 애플에서 제공하는 CoreML을 활용해 적은 전력으로도 고성능 GPU를 탑재한 PC와 비슷한 성능으로 온디바이스 AI 작업을 수행할 수 있습니다. 스테이블 디퓨전을 맥에서 실행해보면 맥북에서도 꽤 충분한 성능이 나옵니다.
온디바이스 AI 작업을 좀 더 빠르게 하고 싶다면 맥이나 AI PC보다는 RTX 4090이나 4080과 같은 고급 GPU를 탑재한 PC를 선택하시는게 더 좋습니다. ChatGPT와 같은 서비스도 GPU를 때려박은 서버에서 실행됩니다. 고급 GPU는 온디바이스 AI 작업에 필요한 강력한 성능을 제공할 것입니다.
마무리
물론 미래에는 NPU의 성능이 향상되어 AI PC와 일반 PC와의 격차가 발생할 수도 있습니다. 인텔은 이미 3세대 후 인텔 프로세서의 NPU 성능을 세 배 향상시킬 것이라 약속했습니다. 그리고 많은 기업과 서비스들은 개인정보 보호 이슈로 인해 클라우드에서 서비스되는 AI를 온디바이스 AI로 교체하는걸 검토하고 있습니다. 이때가 되면, AI를 사용함에 있어서 AI PC와 일반 PC의 격차가 더욱 벌어질겁니다.
그러나 현재로서는 지금 사용하고 있는 PC를 AI PC로 굳이 교체할 필요가 없습니다. 정 온디바이스 머신러닝이 중요하다면 맥북을 고려하거나, 3세대 이후의 PC를 기다리는 것이좋을 것 같습니다.