‘온디바이스 AI 시대’가 열린다

2024년 2월 5일 소식지 내용 입니다.

 

안녕하세요,

챗GPT가 촉발한 생성형 AI(인공지능) 다음으로 ‘온디바이스 AI'가 떠오르고 있습니다. 기기 자체에 AI를 장착한 온디바이스 AI가 반도체 업계에 활기를 불어넣을지 업계의 관심이 쏠리고 있습니다.

 

■ AI 인공지능 시대가 왔다고 이야기 한 지 얼마 안 된 것 같은데, 더욱 업그레이드된 개념이 등장했다고?

 

업계나 전공자들 사이에서는 익숙했지만 대중에게는 익숙하지 않았던 화두가 바로 '온디바이스 AI'입니다.

말 그대로 클라우드나 서버를 거치지 않고 기기 자체에서 AI 서비스를 이용하는 개념입니다. 인터넷 연결 없이도 챗GPT 같은 AI 검색 서비스를 이용하거나, 최근 삼성전자가 갤럭시 S24에 탑재했다고 소개한 실시간 통역도 이 온디바이스 AI 덕분입니다.

 

이미 사용자들은 AI에 상당히 익숙해져 있는 게 사실입니다. 다만 이 AI 기능을 이용하려면 엄청나게 성능이 좋은 GPU나 메모리 반도체, 엄청나게 많은 양의 데이터를 축적해 놓은 데이터센터 같은 게 필요했습니다. 그리고 기기에서 요청한 정보들은 중앙 클라우드 서버로 전송해 분석하고, 이걸 다시 기기에 보내는 방식으로 AI를 활용해 왔기 때문에, 인터넷 연결이 필수였습니다. 데이터양이나 인터넷 연결 상태에 따라서 AI 서비스의 결과물이나 품질도 다소 달랐습니다.

 

※ 클라우드 AI와 온디바이스 AI 비교 (춝처 : 한경비즈니스)

 

 

그러나 온디바이스 AI를 사용하면 요청한 데이터를 중앙 클라우드 서버로 전송하는 과정이 사라집니다. 말 그대로 기기 자체에서 요청한 데이터의 정보들을 처리할 수 있는 겁니다. 그래서 삼성이나 LG가 내놓은 텔레비전이나 냉장고도 이제 AI 기능 구현이 가능하고, 중국 화웨이나 샤오미, 미국 모토로라도 온디바이스 AI 스마트폰 출시를 준비 중인 것으로 알려져 있습니다.

 

■ 온디바이스 AI 기술이 확산하면 반도체 시장에도 변화가 좀 있겠네?

 

네. 기기에서 바로 AI 데이터를 처리해야 하기 때문에, 기기에 탑재돼 있는 반도체의 성능이 굉장히 좋아야 합니다. 더불어 기기에 탑재되어야 하기 때문에 경량화된 AI 칩도 필수입니다.

 

그렇다 보니 온디바이스 AI 기술 확산이 결국 맞춤 제작 AI 칩 수요 증가로 이어질 거란 예측이 지배적입니다. 업계에서는 올해 온디바이스 AI를 적용한 제품들이 빠르게 출시되면서, 삼성전자와 SK하이닉스가 온디바이스 AI 시장을 새로운 메모리 시장으로 삼을 수 있을 거라는 기대심리가 나오고 있습니다.

 

특히 AI 시스템의 성능이 어디까지 향상될 건지를 결정하는 건 결국 메모리이기 때문에, 온디바이스 AI에 특화된 메모리 반도체의 중요성이 더욱 커진 상황입니다.

 

SK하이닉스는 온디바이스 AI 기능을 적극적으로 활용하는 '킬러 애플리케이션'이 나오면, PC나 스마트폰 시장에서 메모리의 수요가 추가로 증가할 거라는 예측도 했습니다.

 

■ 최근 챗GPT의 CEO가 우리나라를 왔다 갔는데, TSMC가 상당히 긴장했다면서?

 

챗GPT의 샘 올트먼 CEO가 지난주에 우리나라에 와서 SK, 삼성전자, SK하이닉스 수장들을 만나고 갔습니다. AI 협력에 대한 논의가 상당 부분 진행된 것으로 알려졌습니다.

 

지금 챗GPT는 하드웨어 쪽으로도 업그레이드를 계획하고 있고, 특히 직접 AI 반도체를 제작하려는 의도가 명확히 보였기 때문에 국내 업계에서는 큰손이 방문했다는 기대감이 매우 컸습니다. 일단 챗GPT가 우리 기업들과 접촉하게 된 배경부터 살펴보겠습니다.

 

※ 26일 챗GPT 개발사 오픈 AI의 CEO 샘 올트먼이 방한해 삼성과 SK 경영진과 회동했다(출처:연합뉴스)

 

챗GPT의 최근 기조는 탈엔비디아였습니다. 오픈AI의 업그레이드가 필요한데 AI반도체는 심각하게 부족한 상태였습니다. 엔비디아의 AI 연산용 GPU에 의존도가 높은 반면, 엔비디아의 수급량이 너무 부족하고 가격도 천정부지로 솟다 보니, 오픈AI가 계획하는 서비스를 도입하는 데 여러 가지 문제점들이 많았던 겁니다.

 

그래서 엔비디아 의존도를 계속 낮추려는 상황에서 조건을 상당 부분 충족시킬 수 있는 게 국내 업체들이었던 겁니다.

 

"'인공지능에 필요한 엔비디아 제품 같은 비슷한 걸 삼성, 하이닉스가 좀 만들어 줄 수 있겠습니까' 이 질문 하고 간 것 같다..." -이진우-

"네, 그렇습니다." -송현서-

 

올트먼이 원래는 6시간 일정을 잡고 한국에 오려고 했는데 일정을 1박 2일로 늘렸을 만큼, 한국 기업과 굉장히 긴밀한 이야기를 주고받은 것으로 예상됩니다.

 

■ 근데 TSMC는 왜 긴장한 거야? 시장 점유율을 뺏길 수도 있을 것 같아서?

 

원래 대만 업계에서 오픈AI의 새 파트너는 TSMC가 될 거라는 추측이 많았습니다. 그런데 예상보다 올트먼 CEO와 한국 기업이 굉장히 빠르게 밀착하다 보니, TSMC는 급하게 엔비디아를 찾아갔습니다. 지난주에 TSMC CEO와 엔비디아의 젠슨 황 CEO가 회동했고, 양사가 오픈 AI 대응 방안에 대해 논의한 것으로 알려집니다.

 

지금 엔비디아는 AI 반도체 시장의 90% 이상을 장악했고, 대부분의 물량을 TSMC에 위탁하고 있습니다. 오픈 AI가 국내 기업에 AI 반도체를 대량 주문하면 반도체 시장 판도가 바뀔 수 있다는 예측도 나옵니다.

 

"인공지능용 반도체는 TSMC에서 사야 하는데 그들 콧대가 너무 높고 번호표가 기니 오픈 AI가 자체 제작을 해보자. 자체 제작은 삼성이나 하이닉스에 맡기거나 TSMC에 맡겨야 하는데, TSMC는 그동안 엔비디아 제품을 만들고 있는 그런 구도다? 그러면 TSMC CEO는 오픈 AI에 가서 '우리가 만들어드릴게요,' 해야 할 것 같은데.." -이진우-

"그렇죠. 근데 지금은 일단 엔비디아를 먼저 찾아간 겁니다." -송현서-

"이 뉴스는 우리에게 맡기려나 보다, 그런 생각을 갖게 하는 뉴스이기도 하지만, 오픈 AI에서 사실 마음속으로는 TSMC에서 맡기고 싶은데 '당신 말고 우리 대안 있어', 라는 걸 먼저 보여주고 그쪽에서 협상하기 위한 액션일 수도 있겠다는 생각이 드네요." -이진우-

 

그러나 우리 기업들이 마냥 좋은 것만은 아닙니다. 아직 챗GPT가 우리 기업들과 정식으로 계약을 맺은 것도 아니고, 챗GPT가 자체 반도체를 제작하려고 미국 의회와 반도체 팹 건설도 논의 중인 것으로 알려졌습니다. 우리 기업 입장에서는 잠재적인 경쟁상대가 될 수 있는 겁니다.

 

엔비디아와 우리 기업들의 협력관계도 부담이 될 수 있습니다. 일단 엔비디아가 국내 반도체 기업의 최대 고객사 중 하나라는 사실은 부인할 수 없는데, 오픈AI와 협력관계가 강화되면 엔비디아의 눈 밖에 날 가능성도 있습니다. 기회득실을 잘 따져봐야 할 타이밍인 겁니다.

 

※ 출처 : MBC 손에 잡히는 경제