티스토리 뷰
1. 온디바이스 AI 개화기가 될 전망
오픈AI가 '챗GPT'를 선보인 이후 인간처럼 학습하고 추론하는 인공지능(AI)에 대한 관심이 높아지고 있다. 챗GPT 등 대규모언어모델(LLM) 인공지능(AI)이 주도한 2023년을 지나 다가오는 2024년에는 소규모언어모델(sLM) 기반의 ‘소형 AI’가 주목을 받을 것으로 전망된다. 대규모 자본과 컴퓨팅 자원 투입이 필연적인 초거대 AI를 가볍고 효율적인 소형 AI가 보완해 사용자의 손에 들린 기기에서 AI를 구동하겠다는 계획이다. 메타를 시작으로 구글, 마이크로소프트(MS), 애플 등 빅테크가 연달아 소형 생성형AI를 선보이는 가운데 삼성전자·퀄컴·인텔 등 하드웨어 제조사도 이에 발맞추며 소형 AI 시장에 대한 주도권 다툼을 벌이고 있다.
내년부터는 스마트폰과 노트북, 그리고 로봇청소기, 세탁기 같은 가전제품까지 광범위하게 생성형 AI 기술 적용이 가능해질 전망이다. 구글도 자사 스마트폰 픽셀 라인업에 온디바이스 작업에 효율적인 LLM(초거대 언어모델) '제미나이 나노'를 적용할 계획이다. 이미 퀄컴, 마이크로소프트, 메타, 애플 등 빅테크 기업들이 앞다퉈 온디바이스 AI를 개발 중이다. 퀄컴은 지난 10월 미국 하와이에서 열린 ‘스냅드래곤 서밋 2023′에서 스냅드래곤8 3세대를 발표하며 온디바이스 AI를 거듭 강조했다.
온디바이스 AI는 클라우드나 원격 서버를 거치지 않고, 기기 자체에서 AI 서비스를 실현하는 기술이다. 서버와 연결되지 않기 때문에 데이터센터에 투입되는 인프라 비용 절감이 가능하며, 개인 정보가 서버를 통해 유출될 확률이 적어 보안 측면에서도 우수하다. 그동안 대기업에서 기밀 유출과 같은 이슈로 직원들이 챗GPT를 사용하지 못 했는데 온디바이스 AI 노트북의 경우 보안 걱정 없이 챗GPT와 같은 언어모델 기반 서비스가 가능해진다. AI 서비스의 업무적 활용이 가능해진다는 것은 그만큼 다양한 직종의 사용자들이 AI를 사용할 수 있다는 것을 의미한다.
2. 소형 생성형 AI (온디바이스AI)로 개발 양상 변화
| AI 개발 양상 변화 | ||
| 개발방식 | 초거대 AI | 소형 AI |
| 구현방식 | 대규모 데이터 연산 투입 | 온디바이스 (에지) 연산 |
| 지향점 | 초고성능 | 효율성 |
정보기술(IT) 업계에 따르면 애플이 2023년 10월 미국 컬럼비아대 연구진과 함께 개발한 소형 생성형AI ‘페럿(Ferret)’의 존재가 뒤늦게 알려졌다. 페럿은 2개 모델로 매개변수(파라미터·AI 학습지표)는 각각 70억 개, 130억 개다. 매개변수 1조 개에 이르는 성능을 지닌 오픈AI GPT-4에 비해 턱없이 작은 숫자지만 이미지 묘사 등 특정 영역에서는 기존의 LLM보다 뛰어나다. 애플만이 아니다. 메타는 일찌감치 ‘라마-2’로 sLM의 문을 열었다. 오픈AI와 연합해 초거대 AI 시장을 주도하고 있는 MS 역시 12월 12일 매개변수가 27억 개에 불과한 소형 AI ‘파이-2’를 선보였다. 유럽의 ‘미스트랄 AI’, 아랍권의 ‘팰컨7B’ 또한 대표적인 sLM이다.
소형 AI는 데이터센터에 의존하는 초대형 AI의 한계에서 벗어나는 것을 궁극적 목표로 삼는다. 이는 기기 스스로 AI를 구동하는 ‘ 온디바이스 AI(에지AI)’의 구현을 뜻한다. 2023년은 초대형 중앙 데이터센터를 기반으로 한 초대형 AI의 위력을 알게 됐다면 2024년은 인터넷 연결 없이도 말단(에지)의 기기가 AI를 구동해 ‘온 세상의 AI’ 시대가 열리는 한 해가 될 것으로 전망된다.