[투어코리아=김현진 기자] 카카오가 자체 개발한 AI '카나나(Kanana)'의 작은 버전 4종을 28일 공개했다. 크기가 작아서 스마트폰 같은 기기에서도 무리 없이 작동하는 게 특징이다. 개발자들이 자주 쓰는 사이트인 허깅페이스(Hugging Face)에 올렸기 때문에, 누구나 무료로 내려받아 쓸 수 있다.

이번에 나온 모델은 이름 그대로 '경량(가벼운)' 모델이다. 크기 순으로 두 종류(1.3B, 3B)가 있고, 각각 기본형(base)과 대화형(instruct) 버전이 있어 총 4가지다.

요즘 AI 업계는 크고 똑똑한 모델 경쟁뿐 아니라, 스마트폰이나 개인 컴퓨터처럼 성능이 제한된 기기에서도 잘 작동하는 '작은 AI'에도 공을 들이고 있다. 해외 대형 IT 기업들도 기기 안에서 직접 작동하는 온디바이스(On-device) AI에 힘을 쏟는 중이다.

카카오는 이미 이런 작은 AI 모델을 여러 서비스에 쓰고 있다. 카카오톡 안의 '카나나', 대화·통화 요약 기능, 정부의 'AI 국민비서' 같은 곳에서 이미 활용 중이다.

이번 모델의 강점은 크기가 작은데도 성능은 뒤지지 않는다는 점이다. 비슷한 크기의 해외 유명 모델들(Qwen, Gemma 등)과 견줘도 대화, 지식, 코딩, 수학 등 여러 영역에서 경쟁력 있는 성적을 냈다. 특히 함께 개발한 더 작은 모델(Kanana-2-0.9B-instruct)도 실제 서비스에 쓸 만한 수준의 성능을 보였다.

비결은 카카오가 직접 만든 한국어 전용 처리 기술(토크나이저) 덕분이다. 쉽게 말해 한국어 문장을 얼마나 효율적으로 잘게 쪼개서 처리하느냐의 문제인데, 카카오는 이 기술로 처리 속도를 30% 이상 끌어올렸다.

대화가 길어지면 AI는 보통 메모리를 많이 잡아먹는다. 카카오는 이 문제를 해결하기 위해 특별한 기술(슬라이딩 윈도우 어텐션)을 적용해, 아주 긴 대화(약 3만 2천 토큰, 2만 4천 단어 분량)를 처리할 때도 메모리 사용량을 최대 72.7%까지 줄였다.

가장 반가운 소식은 이 모델을 회사나 사업에도 자유롭게 쓸 수 있다는 점이다. 카카오는 '카나나 오픈 라이센스(Kanana Open License)'라는 이름으로 별도 조건 없이 개발자, 스타트업, 연구기관 누구나 사용할 수 있게 풀었다.

카카오 노병석 유니파이드 파운데이션 모델 성과리더는 앞으로 AI가 대신 일을 처리해주는 에이전틱 AI 시대를 준비하며, 큰 AI와 작은 AI 둘 다 중요하다고 강조했다. 이번 공개가 더 많은 개발자와 기업들에게 도움이 되고, 국내 AI 생태계가 활발해지는 계기가 되길 바란다고 덧붙였다.