애플, 아이폰에 탑재할 오픈 소스 sLM '오픈ELM' 출시

(사진=허깅페이스)

애플이 초경량급 오픈 소스 소형언어모델(sLM)을 출시했다. 아이폰이나 맥북 등에서 인터넷 연결 없이도 완전히 실행되도록 '온디바이스 AI'에 최적화돼 있는 것이 특징이다.

벤처비트는 24일(현지시간) 애플이 클라우드 서버에 연결하지 않고도 장치에서 로컬로 실행 가능한 온디바이스 인공지능(AI)용 오픈 소스 sLM ‘오픈ELM(OpenELM)’에 관한 논문을 온라인 아카이브에 게재했다고 전했다.

이에 따르면 오픈ELM은 텍스트 생성 작업을 효율적으로 수행하도록 설계된 소형 모델로, 허깅페이스에서 4개의 사전 훈련 모델과 4개의 명령 조정 모델을 공개했다. 매개변수 수는 각각 2억7000만개(0.27B), 4억5000만개(0.45B), 11억개(1.1B), 30억개(3B)로 현재 공개된 sLM 중 가장 작은 규모다.

사전 훈련은 모델이 일관되고 잠재적으로 도움이 되는 텍스트를 생성하도록 하는 방법이며, 명령 조정은 사용자의 특정 요청에 대해 보다 관련성이 높은 출력으로 응답하도록 하는 방법이다.

애플은 모델 가중치와 추론 코드만 제공하고 비공개 데이터 세트에 대한 사전 훈련만 제공하던 일반적인 사례와 달리, 오픈ELM은 학습 로그, 다중 체크포인트, 사전 훈련 구성을 포함해 공개 데이터 세트에서 언어 모델을 학습하고 평가 및 명령 조정하기 위한 전체 프레임워크를 공개했다.

오픈ELM 라이선스는 ‘애플 샘플 코드 라이선스’하에 배포됐다. 해당 라이선스에 따르면, 상업적 용도로 오픈ELM을 사용하거나 수정할 수 있으나 향후 재배포 과정에서는 라이선스에서 제시한 문구와 면책 조항을 함께 명시해야 한다. 또한 모델 결과가 유해하거나 편향된 결과를 생성할 수 있다며 결과에 대한 안정성을 애플이...

​

​

​