40 메가 클로버 슬롯 무료|Amusnet srbija

40 Burning Hot 6 Reels Amusnet

'독자 인공지능(AI) 파운데이션 모델 프로젝트' 참가사들의 프롬스크래치(자체개발) 논쟁이 이어지는 가운데 SK텔레콤(SKT) 정예팀이 기술 보고서를 공개했다.독자 AI 파운데이션 모델 프로젝트는 해외 모델 의존을 줄이고 학습 구조와 핵심 기술을 국내에서 자체 구축한 AI 파운데이션 모델을 선발·육성하는 정부 주도 사업이다.업스테이지와 네이버클라우드 모델을 둘러싼 독자성 논란이 커지자 SKT가 개발 과정을 먼저 공개해 신뢰를 확보하려는 행보로 풀이된다.

SKT 정예팀은 7일 매개변수 519B 규모의 초거대 AI 모델 'A.X K1(에이닷엑스 케이원)' 기술 보고서를 오픈소스 플랫폼 허깅페이스에 공개했다.

SKT 정예팀은 4개월여의 짧은 개발 기간과 제한된 그래픽처리장치(GPU) 자원 속에서도 효율을 극대화한 설계로 국내 첫 500B 이상 초거대 모델 A.X K1을 완성했다고 설명했다.한정된 시간 안에 519B 규모를 갖췄음에도 주요 벤치마크에서 딥시크-V3.1 등 글로벌 초거대 모델과 유사하거나 더 높은 성능을 달성했다는 점은 고무적이다.

A.X K1은 향후 추가 연구 기간에 따라 더 많은 컴퓨팅 자원과 데이터를 투입해 성능을 높일 수 있는 모델이다.SKT는 연내 멀티모달 기능을 추가하고 조 단위 파라미터로 확대할 계획이다.



SKT 정예팀은 1000개의 GPU 자원을 활용해 A.X K1 학습을 진행했다.학습 기간과 GPU 규모를 바탕으로 가능한 총 학습량을 추산했다.이를 기반으로 최대 모델 크기를 스케일링 이론에 근거해 설계했다.스케일링 이론은 모델 성능이 투입 자원에 비례한다는 관점이다.

그 결과 세계적으로도 독창적인 매개변수 구조인 519B 모델을 목표로 정했다.약 10조(10T) 개의 데이터를 투입해 학습했다.정예팀은 개발 기간 동안 상시 1000개 이상의 GPU를 AI 훈련에 활용했다.투여된 GPU 자원 대비 효과를 극대화하기 위해 최적의 학습 연산량을 수학적으로 설계하고 관리했다.

특히 A.X K1은 이번 개발 기간 동안 정부 지원을 받지 않고 자체 GPU 조달만으로 목표를 달성했다는 점에서 의미가 크다.

모델 학습에는 웹 데이터,코드,40 메가 클로버 슬롯 무료이공계 데이터(STEM),40 메가 클로버 슬롯 무료추론 데이터 등 고품질 데이터를 활용했다.한국어 특화 PDF 문서를 파싱하고 합성 데이터를 생성했다.난이도별 커리큘럼 학습 방식도 적용했다.파싱은 개발 프로그램이 학습 자료를 이해할 수 있도록 복잡한 자료를 구조적으로 분해해 정리하는 기술이다.

A.X K1은 수학과 코딩 등 초거대 AI 모델의 역량이 필요한 분야에서 우수한 성능을 구현했다.

보고서에는 매개변수 685B의 '딥시크-V3.1'과 매개변수 357B의 'GLM-4.6' 오픈소스 모델을 비교 대상으로 제시했다.규모 대비 성능을 비교할 수 있도록 구성했다.

수학은 AIME25 벤치마크에서 89.8점을 받아 딥시크-V3.1(88.4점) 대비 102% 수준을 기록했다.AIME25는 미국 고등학생 수학 올림피아드 문제로 AI의 수학 실력을 측정한다.창의적이고 복잡한 난이도의 문제가 출제된다.

코딩 활용도를 측정한 라이브코드벤치에서는 영어 기반 75.8점,한국어 기반 73.1점을 기록했다.딥시크-V3.1의 영어 기반 69.5점,한국어 기반 66.2점 대비 각각 109%,110% 수준이다.

라이브코드벤치는 AI가 실시간으로 공개되는 최신 코딩 문제를 얼마나 잘 푸는지 측정하는 시험이다.모델이 미리 접하기 어려운 최신 문제로 구성돼 실제 코딩 능력을 테스트한다.

A.X K1은 519B 규모의 파라미터 가운데 33B만 선택적으로 활성화하는 방식으로 효율을 높였다.전문가혼합(MoE) 구조를 채택해 훈련 안정성과 효율을 동시에 확보한 것이 특징이다.MoE는 여러 개의 작은 전문가 모델이 함께 작동하는 방식이다.각 전문가는 특정 유형의 데이터를 잘 처리하도록 특화돼 있다.입력 데이터에 따라 가장 적합한 전문가가 선택돼 결과를 만든다.

A.X K1은 한 번에 128K 토큰의 긴 문맥도 처리할 수 있다.한국어 기준 약 10만 단어 수준이다..