KT 초거대 AI 믿음 (Large AI Mi:dm)

## 상품 소개 KT의 초거대 AI 믿음은 대규모 데이터를 사전학습한 파운데이션 모델(LLM, VLM)을 기반으로, 개별 고객사의 도메인·용도에 맞게 Fine-Tuning한 B2B 특화 AI 서비스입니다. KT의 AI 반도체(리벨리온)와 소프트웨어(모레)에 KT Cloud(HAC)를 더한 AI Full Stack을 통해 기업이 필요한 만큼 AI를 효율적으로 사용할 수 있으며, 해석 및 생성을 모두 고려한 멀티태스킹 최적화로 다양한 업무에 즉시 적용 가능합니다. ## 적합 고객 KT 초거대 AI 믿음은 대규모 LLM 기반 상담 자동화, 도메인 특화 Q&A, 지식 검색, 문서 요약 등을 필요로 하는 B2B 기업이 주 대상입니다. 특히 금융권의 복잡한 상품설명 및 자산관리, 공공기관의 민원 자동응답, 통신·제조업의 고객 응대 효율화를 필요로 하는 CIO·CISO·CTO·DX 책임자급 의사결정자에게 적합합니다. ## 영업 약관 BM 검수 시 입력 ## 도입 절차 KT는 고객 니즈 및 데이터·인프라 환경을 고려하여 약 7개월의 단계적 도입을 지원합니다. (1) 고객 데이터·클라우드 환경·보안 요건 확인 (1개월), (2) Task 정의 및 데이터셋 기반 PoC 진행·결과 전달·컨설팅·견적서 작성 (2개월), (3) 데이터 수집·전처리·전이학습·Fine-Tuning·강화학습·모델 서빙 인프라 구축 (2개월), (4) 고객사 운영계 연동·필요 Task 모델 배포·서빙 환경 조성 (2개월), (5) 주기적인 Fine-tuning·강화학습을 통한 성능 고도화 (recurring) ## 용어 설명 **Fine-Tuning**: 사전학습 모델의 특정 Layer에서 일부 가중치 파라미터를 목적에 맞게 미세조정하는 기법. 도메인·목적에 적합한 Output 생성으로 모델 성능 향상 **RLHF(Reinforcement Learning with Human Feedback)**: 인간 피드백을 활용한 강화학습 방법으로 생성 AI의 답변 품질을 지속적으로 개선 **HBM(고대역폭 메모리)**: GPU에 필수적으로 탑재되는 메모리로 처리속도를 대폭 상승시키며 AI 특화 반도체의 핵심 부품 **VLM(Vision Language Model)**: LLM에서 파생한 모델로 이미지·음성·표정·제스처 등 다양한 Input 인식 가능한 멀티모달 AI **RAG(Retrieval-Augmented Generation)**: 기업 보유 정보를 초거대 AI와 융합하여 신뢰성·최신성을 확보하는 기법. 딥러닝 검색기로 관련 문서 검색 후 LLM과 결합 **MRC(Machine Reading Comprehension)**: 기계독해 기술로 내부 문서(표, 리스트 등)의 다양한 형태를 텍스트화하고 이해하는 능력 **NPU(Neural Processing Unit)**: AI 특화 반도체로 GPU 대비 비용·전력소모를 5분의1로 감소시키는 AI 최적화 프로세서 ## 추천 사유 V3 활성 예정 ## 핵심 차별점 **AI Full Stack 통합 제공**: KT의 AI 반도체(리벨리온)·소프트웨어(모레)·클라우드(KT Cloud)를 통합하여 기업이 필요한 만큼 AI를 효율적으로 사용 가능 **금융권 보안 및 신뢰성 최우선**: 전자금융감독 규정을 준수한 금융 랜딩 존에서 고객 데이터 보호, 딥러닝 검색기를 통한 RAG 결합으로 Hallucination 최소화 **도메인 특화 맞춤형 AI**: Mi:dm Studio 통해 고객사 데이터 전처리부터 모델 학습 E2E 지원, 효율적 미세학습(PEFT)으로 빠른 도메인 적용 **비용효율화**: 실사용량 기반 종량형(Pay-as-you-go) 서비스로 대규모 초기 인프라 구축비·운영비·추론비용 절감 **다양한 Task 동시 처리**: 하나의 모델에서 상담 요약, 의도 분류, 감정 분류, 뉴스 요약, 기계독해 등 12+ Task 동시 수행 가능