이번 WWDC 이후에도 역시 “혁신은 없었다” 퍼레이드가 이어지고 있는 것 같습니다. 생성형 AI가 대세인 요즘 시대에 애플의 AI 역량은 뒤처져도 너무 뒤처진 것처럼 보이기 때문이죠. 이번에 소개된 실시간 번역 같은 Apple Intelligence 기능들도 대부분 이미 갤럭시에서 지원하는 기능들이기도 합니다.
애플의 “AI 위기”는 예전부터도 계속 지적되어온 부분입니다. 저도 예전에 비슷한 글을 썼구요.
그런데 오늘은 저런 뉴스들을 보니 청개구리 심보가 작동하여 Apple Intelligence가 무시당하고 있는 한 측면에 대해 이야기해보려고 합니다. 바로 온디바이스 AI, 즉 기기에서 실행되는 AI라는 부분입니다.
온디바이스 AI?
대부분의 일반 사용자들에게는 Apple Intelligence나 다른 PC, 스마트폰 제조사의 AI 기능이 똑같아 보이지만 ChatGPT, Gemini 등의 서비스는 클라우드의 고성능 컴퓨터에서 실행되는 AI고, Apple Intelligence는 기기 자체의 성능으로 실행되는 AI입니다.
일반적인 AI(LLM;대규모 언어 모델)는 너무 크고 컴퓨팅 자원을 많이 소모해서 웬만한 성능으로는 실행할 수 없습니다. 우리가 손바닥의 스마트폰에서 ChatGPT를 쓸 수 있는 것도 네트워크를 통해 ChatGPT 의 거대한 GPU가 엄청나게 장착된 서버에서 연산한 결과를 그대로 받아오기 때문입니다. 이건 MS의 Copilot PC, 갤럭시의 AI 기능도 모두 마찬가지에요.
Apple Intelligence는 다릅니다. SLM(소규모 언어 모델)을 탑재해 대부분의 AI 기능이 기기 자체에서 실행됩니다. 아이폰 자체에서 그냥 AI 기능이 실행되는거죠. 당연히 서버에 비해 약한 컴퓨팅 파워로 실행되는만큼 기능이 제한적이고 성능도 떨어집니다. gpt-4o랑 비교해도 한참 못 미치는 정도입니다. 그래서 부족한 성능을 ChatGPT와의 제휴를 통해 해결하고 있는거죠.
애플은 왜 그랬을까요? 강력한 GPU를 확보하는데 실패해서? 그럴 수도 있습니다. 하지만 온디바이스 AI에는 무시 못할 장점도 있기 때문이죠.
온디바이스 AI의 장점
일단 온디바이스 AI의 장점에는 애플이 항상 말하는 것처럼 “보안성”이 있습니다. Apple Intelligence는 모든 AI 활동이 기기 내에서만 이루어집니다. ChatGPT 등의 AI는 제가 아무리 개인적인 내용을 이야기한다고 하더라도 ChatGPT 서버로 일단 전송됩니다. 그 정보가 학습에 사용되기도 합니다. Apple Intelligence는 그럴 일이 없죠.
두번째 장점은 “비용”입니다. 제가 앱 개발자고 AI 기능을 이용하는 앱을 만들고 싶다고 한다면, 아무리 간단한 기능이라도 ChatGPT에 서버 비용(API 사용료)을 내야합니다. 애플에서라면? 사용자의 기기에서 실행되는 Apple Intelligence 기능을 쓰면 됩니다. 서버 비용을 낼 필요가 없죠.
이런 특성 때문에 Apple Intelligence를 사용하는 사용자도 기기에 딸려온 기능을 그냥 월구독 없이 쓸 수 있는 겁니다.(벌써 윈도우만 해도 구독으로 기능이 차별화되고 있죠)
세번째 장점은 “가용성”입니다. 6월 10일 ChatGPT에서 대대적인 장애가 있었죠. 클라우드 기반의 AI는 AI 서비스 업체의 서버가 뻗어버리면 AI를 아예 쓸 수 없습니다. 제가 아무리 비싸게 주고 쓰고 있다고 해도요.
Apple Intelligence 는 아이폰이나 아이패드에 배터리가 있는한 AI 기능을 못 쓸 이유가 없습니다. 심지어 인터넷이 연결 되어있지 않아도 말이죠.
네번째 장점은 “친환경”입니다. 이건 장점이 아니라고 이야기하실 수도 있지만 AI 서비스들이 사용하는 컴퓨팅 자원과 전기는 생각보다 좀 심각한 문제입니다.
AI 서비스가 고도화되고 이를 실행하는 GPU의 성능이 점점 높아지면서 이들이 먹는 전기도 어마어마하게 증가하고 있습니다. 온디바이스 AI는 전성비가 높은 휴대용 기기의 자원을 사용하므로 훨씬 친환경적이죠.
(당연히) 애플한테도 이득
온디바이스 AI는 생각보다 많은 이점을 갖고 있습니다. 하지만 애플이 온디바이스 AI를 택한 것에는 당연히 장삿속도 있습니다.
AI가 기술업계 유행으로 떠오르면서 AI PC라는 개념이 유행했던적이 있습니다. GPU보다 좀 더 전력 효율적인 NPU(신경망 프로세서)가 탑재된 컴퓨터를 뜻하는 말이었는데 대부분 그냥 마케팅 용어로 취급되었습니다. AI PC는 실제로 AI를 쓰는거랑 관계가 없었거든요. 오래된 그냥 PC랑 AI PC랑 ChatGPT를 실행하는데는 전혀 차이가 없었거든요. 인터넷만 연결되어있으면 다 똑같은 서비스니까요.
온디바이스 AI인 Apple Intelligence는 사정이 다릅니다. 아이폰만해도 커트라인이 아이폰 15 프로부터였으니까요. 지금이야 별 볼일 없어보이니 큰 차이가 느껴지지 않지만 점점 시간이 지나면 Apple Intelligence는 기기간의 성능 격차를 벌릴겁니다. 고성능의 새로운 기기에서 더 똑똑한 AI가 실행되고 더 많은 일을 하겠죠. 그때 되면 최신 기기와 아닌 시기의 차이는 점점 벌어질겁니다.
이미 이번에 소개된 AI와 관련된 iOS 기능들은 Apple Intelligence가 지원되지 않는 구 모델에서는 대부분 사용할 수 없습니다. 아마 이 차이는 앞으로 시간이 흐를수록 애플이 더 많은 기기를 팔아먹는데 도움이 될겁니다. AI PC나 Copilot PC 같은 마케팅 용어보다 더한 장삿속이죠.
마무리
물론 지금의 AI 시대는 이런 온디바이스 AI의 장점은 무시해도 될 정도로 클라우드 기반 AI 서비스가 엄청 빠르게 발전하고 있습니다. 애플은 이 경쟁에서 분명 뒤처지고 있구요. 보안이나 환경 이슈에 민감하지 않은 일반 사용자들은 기존의 ChatGPT 같은 서비스를 사용해도 전혀 문제가 없을거에요.
하지만 시간이 지날수록 기기의 성능은 더 좋아지고, LLM, SLM의 전성비도 더 좋아지는 방식으로 가게 될겁니다. 분명 그때가 되면 이런 온디바이스 AI의 장점은 무시할 수 없을 거에요. 당장 저만해도 ChatGPT에 민감한 정보는 입력하지 않거든요. 사용자들은 점점 AI 서비스에 높은 보안 기준과 가용성을 요구하게 될거고, 결국 미래의 대세는 온디바이스 AI가 될 수 밖에 없을거에요. 그게 Apple Intelligence를 무시할 수만은 없는 이유입니다.
그리고 저는 이번에 Apple Intelligence가 개발자에게 개방된 것에도 주목하고 있는데, 분명 아이폰에서만 실행 가능한 다양하고 저렴한(월 구독 필요 없는) 앱이 나오는데 도움이 될겁니다. 어쩌면 애플 생태계와 다른 플랫폼 간의 격차를 더 두는데 도움이 될 수도 있겠죠.